Meta tiene previsto presentar Llama 3 la semana que viene, según las señales que ha ido dejando la compañía en las últimas semanas. El lanzamiento sitúa a Meta de nuevo en la misma conversación que Gemini, GPT-4 y Claude, aunque con una diferencia de fondo, sus modelos se publican con los pesos abiertos, algo que Google, OpenAI y Anthropic no hacen.
La familia que sucede a Llama 2
Llama 3 llega casi un año después de Llama 2, que Meta presentó en julio de 2023, y de momento se hablaba de dos tamaños para esta primera tanda, pensados para tareas más concretas como chatbots y asistentes especializados en lugar de un único modelo generalista para todo. La compañía ha dejado entrever además que habrá versiones bastante más grandes más adelante en el año, pensadas para tareas que exigen más capacidad de razonamiento.
De las gafas Ray-Ban al Quest, dónde encajará Llama 3
Meta ya integra IA generativa en Meta Ray-Ban y en Meta Quest, y todo apunta a que Llama 3 sustituirá al modelo que mueve esos asistentes hoy. La mejora más visible para el usuario final probablemente no esté en el chat de texto, sino en cómo las gafas y el visor interpretan lo que ven a través de la cámara, un terreno en el que Meta lleva invirtiendo desde hace tiempo.
Pesos abiertos, no código abierto en sentido estricto
Meta repite con Llama 3 la estrategia de Llama 2, publicar los pesos del modelo bajo una licencia que permite descargarlo, ejecutarlo y ajustarlo (fine-tuning incluído), con límites para empresas de más de 700 millones de usuarios activos mensuales. No es código abierto en el sentido estricto del término, porque Meta no publica el conjunto de datos de entrenamiento ni el proceso completo, pero sí permite algo que Gemini y GPT no ofrecen, bajarse el modelo y correrlo en tu propia infraestructura.
Qué no hace Llama 3
Los primeros modelos de la familia no navegan por internet ni se actualizan con información en tiempo real, a diferencia de ChatGPT con navegación activada o de Gemini conectado a búsqueda de Google. Su fuerza está en el coste de infraestructura, bastante más bajo que el de un modelo cerrado de tamaño equivalente, lo que los hace atractivos para empresas que quieren montar su propio chatbot sin depender de una API de terceros.
El contexto financiero detrás del lanzamiento
Meta cerró 2023 con un incremento del 16% en ingresos, mientras su división Reality Labs (la que engloba el metaverso) sigue lejos de ser rentable. La apuesta por Llama y por integrar IA generativa en todas sus aplicaciones, de WhatsApp a Instagram, es la manera que tiene Mark Zuckerberg de justificar el gasto en IA ante los inversores sin depender únicamente del metaverso.
Cuando Llama 3 llegó finalmente el 18 de abril de 2024, la familia inicial fue de 8.000 y 70.000 millones de parámetros, entrenados con 15 billones de tokens, bastante más de los que había usado Llama 2. Meta integró el modelo de inmediato en el asistente Meta AI de WhatsApp, Instagram, Messenger y Facebook, y confirmó que ya entrenaba una versión de más de 400.000 millones de parámetros para más adelante. Un año después, esa línea de trabajo desembocó en Llama 4 y la app independiente de Meta AI.
Preguntas frecuentes
¿Qué tamaños de Llama 3 llegaron finalmente?
Meta lanzó el 18 de abril de 2024 los modelos de 8.000 y 70.000 millones de parámetros, y confirmó que trabajaba en una versión de más de 400.000 millones para después.
¿Llama 3 es código abierto de verdad?
No en sentido estricto. Meta publica los pesos con una licencia que permite descargar, ejecutar y ajustar el modelo, con restricciones para empresas de más de 700 millones de usuarios activos mensuales, pero no comparte el conjunto de datos de entrenamiento.
¿Llama 3 puede navegar por internet como ChatGPT?
No, la familia inicial no incorpora navegación ni actualización en tiempo real. Su ventaja está en el coste de infraestructura y en poder ejecutarse en servidores propios.
¿En qué productos de Meta se integró Llama 3?
Meta lo integró en el asistente Meta AI dentro de WhatsApp, Instagram, Messenger y Facebook, y también en Meta Ray-Ban y Meta Quest.
