El debate sobre si la IA debe ser de código abierto o cerrado tiene en 2023 algunos de los nombres más importantes del sector en bandos opuestos. Yoshua Bengio y Geoffrey Hinton, ambos ganadores del Premio Turing, han pedido más regulación y cautela en el desarrollo de los sistemas más avanzados. Frente a ellos, Andrew Ng, Yann LeCun y Jeremy Howard defienden que el código abierto es la mejor garantía contra la concentración de poder en un puñado de compañías.
El trasfondo del debate no es solo técnico. También es económico y político. Mientras Sam Altman, CEO de OpenAI, comparecía ante el Congreso de Estados Unidos para advertir sobre los riesgos de la IA, la compañía estaba, según distintos informes, influyendo activamente en el AI Act europeo para suavizar los requisitos regulatorios. Ese doble registro, seguridad en público y lobby en privado, es parte de lo que ha alimentado la desconfianza de quienes defienden el open source.
El argumento del código abierto: poder distribuido como garantía
Andrew Ng, cofundador de Google Brain y una de las voces más escuchadas en el área de machine learning, argumentó que las propuestas regulatorias que promueven las grandes compañías tecnológicas no están pensadas para proteger al público, sino para consolidar su posición de mercado. La seguridad, en su lectura, puede convertirse en la excusa para levantar barreras de entrada que solo los actores más grandes puedan superar.
Yann LeCun, director científico de Meta AI, fue más directo. En un tuit que generó amplio debate, sugirió que si los sistemas de IA hubieran sido de código abierto, el escenario de una IA hostile y centralizada resultante de un desarrollo opaco habría sido más difícil de producir. La transparencia no como utopía, sino como mecanismo de control distribuido.
Jeremy Howard, investigador y cofundador de fast.ai, aportó la crítica más concreta a los argumentos de la otra parte: la analogía entre open source en IA y la distribución de planos de armas nucleares, que Hinton había popularizado, no se sostiene cuando se analiza la diferencia estructural entre ambas tecnologías. Un modelo de lenguaje publicado no equivale a una fórmula de destrucción masiva.
El argumento de la seguridad: la analogía nuclear y sus límites
Geoffrey Hinton ha sido el defensor más visible de la posición precautoria. Su argumento central es que publicar los pesos y el código de un modelo muy capaz es equivalente a distribuir planos nucleares: una vez que está fuera, no se puede controlar quién lo usa ni para qué. La misma preocupación articula buena parte de las políticas de OpenAI, que comenzó como organización de acceso abierto pero fue cerrando el acceso a sus modelos más potentes a lo largo del tiempo.
Yoshua Bengio, por su parte, ha insistido en que la velocidad del desarrollo actual supera la capacidad de la sociedad para establecer salvaguardas. Su posición no rechaza el código abierto en modelos de menor capacidad, pero sí pide que los modelos fronterizos (los más avanzados del momento) no se publiquen sin evaluación de riesgos previa. Un enfoque que, precisamente, OpenAI intentó articular con su equipo de Preparación, que evaluaría riesgos catastróficos antes del despliegue de nuevos modelos.
El contexto regulatorio: quién escribe las reglas y para qué
La tensión entre ambas posiciones se complica cuando entra la regulación. El AI Act europeo incluye requisitos específicos para los modelos de propósito general de alto riesgo que han generado polémica entre los defensores del open source, que advierten que podrían dificultar la publicación de pesos de modelos grandes. Las empresas que más han presionado en Bruselas son las que tienen más que ganar con requisitos de cumplimiento que ellas ya pueden afrontar y los laboratorios pequeños no.
La expansión de OpenAI en Europa con productos como Codex muestra que las grandes compañías han encontrado la forma de operar en el marco regulatorio que han ayudado a dar forma. El modelo de negocio (API de pago, herramientas integradas en servicios en la nube) es precisamente el que se beneficia de un entorno donde publicar modelos abiertos resulta más difícil de justificar legalmente.
El debate, en último término, no se resuelve en 2023. Lo que sí queda claro es que el argumento de la seguridad y el argumento de la transparencia no son mutuamente excluyentes, aunque los actores que los defienden tengan intereses muy distintos. Modelos pequeños y medianos publicados en abierto (como los de Mistral o LLaMA de Meta) conviven con modelos cerrados de mayor capacidad, y esa coexistencia moldeará las próximas rondas del debate.
Preguntas frecuentes
¿Qué argumentan los defensores del código abierto en IA?
Que el código abierto distribuye el poder en lugar de concentrarlo en unas pocas compañías, permite una mayor auditoría pública de los modelos y que las regulaciones promovidas por las Big Tech pueden servir para consolidar su posición de mercado bajo la cobertura de la seguridad.
¿Qué argumentan quienes piden más restricciones en el open source de IA?
Que los modelos fronterizos más potentes, una vez publicados, no se pueden controlar y que actores malintencionados pueden usarlos para generar daños significativos. Geoffrey Hinton compararó publicar los pesos de modelos avanzados con distribuir planos nucleares.
¿Qué postura tiene OpenAI en el debate sobre código abierto?
OpenAI comenzó como una organización que defendía el acceso abierto pero fue cerrando el acceso a sus modelos más potentes. Sam Altman ha advertido públicamente sobre los riesgos de la IA mientras la compañía presionaba, según varios informes, para suavizar los requisitos del AI Act europeo.
¿Es válida la analogía entre código abierto en IA y planos nucleares?
Jeremy Howard y otros investigadores han cuestionado esta analogía, argumentando que la diferencia estructural entre un modelo de lenguaje y un arma nuclear es sustancial. Un modelo publicado no equivale a una fórmula de destrucción masiva, aunque sí puede tener usos dañinos en ciertas configuraciones.
¿Qué modelos de código abierto existían en 2023?
En 2023 los modelos abiertos más destacados incluían LLaMA de Meta, los modelos de Mistral AI y varios modelos de menor tamaño disponibles en Hugging Face. La convivencia entre estos modelos abiertos y los cerrados de OpenAI, Google o Anthropic definía el mapa del sector.
