Moonshot AI ha publicado los pesos de Kimi K3, un modelo multimodal de mezcla de expertos con 2,8 billones de parámetros y una ventana de contexto de hasta un millón de tokens. El lanzamiento amplía el acceso a modelos avanzados de inteligencia artificial, pero también expone una contradicción cada vez más visible: que los pesos puedan descargarse no significa que un desarrollador pueda ejecutar el modelo completo en su ordenador o en un servidor convencional.
Las claves de Kimi K3 en 30 segundos
- Kimi K3 reúne 2,8 billones de parámetros, aunque activa 104.000 millones para procesar cada token.
- Sus pesos MXFP4 ocuparían alrededor de 1,4 TB antes de sumar cachés, buffers y otros recursos.
- Una GPU de consumo con 24 o 32 GB queda muy lejos de la memoria necesaria.
- Servirlo con buen rendimiento requiere varias GPU de centro de datos y redes de alta velocidad.
- Moonshot publica los pesos bajo una licencia propia, por lo que resulta más preciso hablar de modelo abierto que de código abierto.
La ficha técnica describe una arquitectura Mixture of Experts (MoE) formada por 896 expertos enrutados, de los cuales se seleccionan 16 para cada token, además de dos expertos compartidos. En total se activan unos 104.000 millones de parámetros durante cada paso de inferencia, bastante menos que los 2,8 billones del modelo completo.
Esta activación selectiva reduce las operaciones matemáticas necesarias, pero no convierte a Kimi K3 en un modelo de 104.000 millones que pueda cargarse en una estación de trabajo. El sistema necesita tener disponibles los pesos de todos los expertos porque el enrutador decide cuáles utilizar en función de cada entrada. Es posible trasladar parte de los datos a la memoria principal o incluso al almacenamiento, pero la penalización sobre la velocidad puede ser considerable.
El resultado es un modelo descargable y modificable cuyo despliegue práctico queda reservado, al menos en su versión completa, a empresas, universidades, laboratorios y proveedores que ya disponen de infraestructura especializada.
Cuánto ocupa realmente un modelo de 2,8 billones de parámetros
El cálculo inicial es sencillo. Un modelo con 2,8 billones de parámetros almacenados con 16 bits por parámetro necesitaría aproximadamente 5,6 TB solo para contener los pesos.
Moonshot ha entrenado Kimi K3 con cuantización nativa MXFP4 para los pesos y MXFP8 para las activaciones. Al reducir los pesos a unos cuatro bits, su tamaño teórico baja hasta aproximadamente 1,4 TB.
Esa cifra no representa toda la memoria necesaria para ejecutar el modelo. El servidor también debe reservar espacio para las activaciones, los buffers del motor de inferencia, la comunicación entre aceleradores y la caché de claves y valores, conocida como KV cache. Esta última crece con el número de usuarios, la longitud de las conversaciones y el contexto utilizado.
Por eso la ventana anunciada de un millón de tokens no implica que cualquier despliegue pueda utilizarla sin consecuencias. Mantener conversaciones tan extensas puede añadir una carga de memoria y computación muy superior a la de una petición corta.
La comparación con el hardware de consumo muestra la diferencia de escala:
| Hardware | Memoria disponible | Capacidad frente a 1,4 TB de pesos |
|---|---|---|
| GPU de consumo de 24 GB | 24 GB | Alrededor del 1,7 % |
| GPU de consumo de 32 GB | 32 GB | Alrededor del 2,3 % |
| Estación con 256 GB de memoria unificada | 256 GB | Menos de una quinta parte |
| NVIDIA H100 de 80 GB | 80 GB | Harían falta al menos 18 solo para los pesos |
| NVIDIA H200 de 141 GB | 141 GB | Harían falta al menos 10, sin margen operativo |
Las cantidades mínimas son cálculos teóricos. Un despliegue real necesitaría más memoria para evitar utilizar toda la capacidad de las GPU y para alojar el resto de recursos de inferencia. En el caso de las H100, una configuración de 24 aceleradores repartidos en tres servidores de ocho GPU resulta más coherente que intentar limitarse al mínimo matemático.
También importa la conexión entre las tarjetas. Dentro de cada servidor pueden utilizarse enlaces como NVLink o NVSwitch, mientras que la comunicación entre nodos suele requerir redes de muy baja latencia y gran ancho de banda, como InfiniBand o Ethernet adaptada a cargas de inteligencia artificial.
Sin esa interconexión, las GPU pasarían demasiado tiempo esperando a que otros dispositivos les entregasen datos. La capacidad de memoria permitiría cargar el modelo, pero su velocidad podría no ser suficiente para prestar un servicio útil.
Activar pocos expertos no elimina la barrera de la memoria
La arquitectura MoE se utiliza para aumentar el tamaño y la capacidad de un modelo sin ejecutar todos sus parámetros en cada paso.
Kimi K3 selecciona 16 de sus 896 expertos enrutados para cada token. Esta estrategia permite que el coste de cálculo se acerque al de un modelo mucho más pequeño, aunque el sistema mantenga una gran variedad de especialistas disponibles.
El problema aparece en la memoria. El enrutador no puede saber con antelación qué expertos necesitará durante toda la respuesta. Dos tokens consecutivos pueden activar grupos diferentes, así que los pesos deben encontrarse disponibles con una latencia baja.
No es estrictamente obligatorio conservar cada parámetro en la memoria de las GPU. Los motores de inferencia pueden descargar pesos a la RAM del servidor y emplear técnicas de caché o precarga. También existen proyectos que reparten modelos entre CPU, GPU y unidades de almacenamiento NVMe.
Estas soluciones hacen posible ejecutar modelos que exceden la VRAM instalada, pero no eliminan las limitaciones físicas. Una GPU H100 ofrece varios terabytes por segundo de ancho de banda interno, mientras que PCI Express y la memoria principal se mueven en escalas bastante inferiores. Acceder continuamente a pesos situados fuera de la GPU reduce la generación de tokens y aumenta la latencia.
La cuantización adicional también puede rebajar los requisitos. La comunidad suele crear versiones de dos o tres bits de los modelos grandes, aunque el ahorro puede venir acompañado de pérdidas de precisión. No puede afirmarse que todos los modelos MoE sufran el mismo deterioro ni que su enrutador vaya a fallar necesariamente, pero cuanto más agresiva sea la compresión, mayor será el riesgo de alterar su comportamiento.
En Kimi K3 esta vía tiene además menos recorrido que en otros lanzamientos. El modelo ya parte de pesos MXFP4 integrados en su entrenamiento, por lo que no se trata simplemente de un modelo BF16 al que se pueda aplicar una primera reducción sin coste apreciable.
Qué significa que Kimi K3 sea abierto
Moonshot define Kimi K3 como un modelo open-weight, es decir, con sus pesos disponibles para descarga. La compañía también ha publicado el repositorio y un informe técnico, pero el conjunto se distribuye bajo una licencia propia denominada Kimi K3 License.
La licencia permite utilizar, copiar, modificar, distribuir, ajustar y desplegar el modelo, también en productos comerciales. Sin embargo, introduce condiciones para determinados negocios de modelo como servicio.
Una empresa que ofrezca acceso al modelo o a sus derivados como servicio y supere 20 millones de dólares de ingresos agregados durante cualquier periodo consecutivo de 12 meses debe alcanzar un acuerdo separado con Moonshot antes de utilizarlo comercialmente.
También existe una obligación de mostrar de forma destacada la marca Kimi K3 en productos que superen los 100 millones de usuarios activos mensuales o los 20 millones de dólares de ingresos mensuales. Estas condiciones no se aplican de la misma manera al uso interno ni al acceso mediante productos oficiales o proveedores de inferencia certificados.
Por tanto, describirlo simplemente como “código abierto” puede ocultar matices. El usuario recibe muchos de los beneficios asociados a la apertura, pero no una licencia estándar como Apache 2.0 o MIT sin condiciones adicionales.
A escala empresarial, disponer de los pesos sí tiene un valor claro. Una organización con capacidad suficiente puede desplegar Kimi K3 en una infraestructura privada, controlar dónde se procesan los datos, auditar el comportamiento del sistema o adaptarlo a un sector concreto.
Los laboratorios también pueden utilizarlo para investigar arquitecturas MoE, desarrollar motores de inferencia, estudiar cuantización o crear modelos derivados. La destilación permite aprovechar las respuestas de un modelo grande para entrenar sistemas más pequeños, aunque cualquier proyecto deberá revisar las condiciones de la licencia y la legislación aplicable.
Para un desarrollador independiente la situación es distinta. Aunque pueda descargar los archivos, probablemente accederá a Kimi K3 mediante una interfaz de programación de aplicaciones, conocida como API, igual que haría con un modelo cerrado.
La API vuelve a ser la opción práctica para la mayoría
Moonshot ofrece Kimi K3 mediante una API compatible con los formatos de OpenAI y Anthropic. Su tarifa publicada es de 0,30 dólares por millón de tokens recuperados de caché, 3 dólares por millón de tokens de entrada y 15 dólares por millón de tokens de salida.
El precio de salida es muy superior al de Kimi K2.7 Code y Kimi K2.6, ambos situados en 4 dólares por millón de tokens generados en la plataforma oficial. La diferencia refleja, entre otros factores, el coste de ejecutar un modelo mucho más grande.
El modelo está orientado a trabajos de programación prolongados, investigación, uso de herramientas y razonamiento complejo. En estos escenarios no basta con comparar la tarifa de cada token: también habría que medir cuántas llamadas y cuánto tiempo necesita cada modelo para completar correctamente una tarea.
Moonshot sostiene que Kimi K3 alcanza resultados competitivos en programación, automatización, navegación y trabajo con documentos. Sin embargo, muchas cifras proceden de las evaluaciones publicadas por la propia compañía y utilizan configuraciones, herramientas o entornos diferentes según el modelo comparado. Deben interpretarse como una referencia técnica, no como una garantía de rendimiento en cualquier aplicación.
El informe de Kimi reconoce además que su rendimiento general todavía queda por detrás de los modelos propietarios más capaces analizados por el equipo, aunque supera a distintos sistemas abiertos y cerrados en algunas pruebas concretas.
La aparición de Kimi K3 señala una separación cada vez mayor entre dos conceptos que durante años estuvieron relacionados: poder descargar un modelo y poder ejecutarlo localmente.
Los modelos abiertos pequeños y medianos continúan siendo una opción real para ordenadores personales, estaciones de trabajo y servidores modestos. Los modelos abiertos de frontera, en cambio, empiezan a parecerse a maquinaria industrial. Sus pesos pueden circular libremente, pero extraer todo su rendimiento requiere centros de datos, aceleradores especializados y una inversión que queda fuera del alcance de la mayoría.
Preguntas frecuentes
¿Puede ejecutarse Kimi K3 en una NVIDIA RTX 4090?
No en su configuración completa y con una velocidad práctica. Una RTX 4090 dispone de 24 GB de VRAM, mientras que los pesos MXFP4 del modelo rondan teóricamente los 1,4 TB.
¿Por qué necesita tanta memoria si solo activa 104.000 millones de parámetros?
Los 104.000 millones son los parámetros utilizados para procesar cada token. Los 2,8 billones de parámetros deben permanecer disponibles porque el enrutador puede seleccionar expertos diferentes en cada paso.
¿Cuántas GPU hacen falta para desplegar Kimi K3?
El mínimo teórico sería de unas 18 H100 de 80 GB solo para almacenar los pesos. Un despliegue operativo necesitaría más memoria, por lo que una configuración de 24 GPU o más resulta una estimación más prudente, dependiendo del contexto, la concurrencia y el motor de inferencia.
¿Kimi K3 es realmente de código abierto?
Moonshot lo presenta como un modelo de pesos abiertos. Su licencia permite numerosos usos y modificaciones, pero incorpora condiciones para grandes servicios comerciales, por lo que no equivale a una licencia abierta estándar sin restricciones adicionales.
