Meta AI ha publicado Code Llama 70B, la nueva versión de su modelo especializado en generación de código, entrenada sobre 500.000 millones de tokens adicionales respecto a las versiones anteriores. El modelo escribe y completa código en Python, C++, Java y PHP a partir de instrucciones en lenguaje natural o fragmentos ya existentes, y llega con una ventana de contexto más amplia que le permite manejar archivos más largos sin perder coherencia.
Qué cambia respecto a la generación anterior
Code Llama 70B parte de Llama 2 y se especializa mediante ajuste fino (fine-tuning) orientado a código, usando mecanismos de auto-atención para captar dependencias entre líneas y funciones. Meta publica además CodeLlama-70B-Instruct, la variante afinada para seguir instrucciones en lenguaje natural, que en los benchmarks internos de la compañía supera a las versiones previas de la familia Code Llama en tareas de generación y corrección.
Las novedades técnicas, resumidas
- Entrenamiento ampliado: 500.000 millones de tokens más que sus predecesores, lo que mejora la precisión en tareas complejas.
- Contexto más largo: procesa y genera bloques de código extensos sin perder el hilo entre funciones.
- Ajuste por instrucciones: CodeLlama-70B-Instruct entiende peticiones en español o inglés y devuelve código funcional, no solo autocompletado.
Licencia y acceso
El modelo se distribuye bajo la misma licencia que Llama 2, que permite uso comercial e investigación sin coste, con algunas restricciones para empresas de más de 700 millones de usuarios activos mensuales. Los pesos están disponibles en Hugging Face y en GitHub, con soporte para PyTorch, TensorFlow y Jupyter Notebook. Quien quiera acceso anticipado a las siguientes iteraciones puede solicitarlo desde este formulario.
Para qué sirve en el día a día
Más allá de escribir código desde cero, Code Llama 70B traduce código entre lenguajes, resume qué hace un bloque de funciones, genera documentación y comentarios, y ayuda a detectar errores o cuellos de botella en proyectos existentes. Al ser un modelo abierto, cualquier equipo puede desplegarlo en su propia infraestructura sin depender de una API externa de pago, algo que ya están explorando equipos que revisan código con IA como parte de su flujo antes de producción.
El lanzamiento llega en un momento en que los grandes laboratorios compiten tanto por el mejor modelo cerrado como por ganar terreno en código abierto, una carrera en la que Google y Anthropic también mueven ficha con sus propios fichajes y modelos.
Preguntas frecuentes
¿Code Llama 70B es gratuito?
Sí, se distribuye bajo la licencia de Llama 2, que permite uso comercial y de investigación sin coste, salvo para empresas con más de 700 millones de usuarios activos al mes.
¿Qué lenguajes de programación soporta?
Python, C++, Java y PHP son los principales, aunque el modelo también genera código razonablemente bien en otros lenguajes populares al estar entrenado con un corpus amplio.
¿En qué se diferencia de GitHub Copilot?
Copilot es un servicio cerrado por suscripción integrado en el editor. Code Llama 70B es un modelo abierto que cualquiera puede descargar y ejecutar en su propia infraestructura, con más control sobre los datos.
¿Dónde se descarga?
Los pesos del modelo están en Hugging Face y GitHub, con documentación oficial de Meta AI para integrarlo con PyTorch, TensorFlow o Jupyter Notebook.
