A finales de noviembre de 2023, Reuters publicó que OpenAI llevaba meses desarrollando un sistema interno llamado Q*, capaz de resolver problemas matemáticos sin que nadie le hubiera enseñado a hacerlo paso a paso. La noticia, que coincidió con el breve despido y la reincorporación de Sam Altman, reabrió un debate que llevaba años en segundo plano: cómo regular una tecnología que aún no existe pero que muchos consideran inevitable.
La Inteligencia Artificial General (AGI, por sus siglas en inglés) se distingue de los modelos actuales como GPT-4 o Claude en un punto concreto: en vez de ser buena en tareas específicas, sería capaz de aprender y aplicar razonamiento en cualquier ámbito, de forma similar a como lo hace un ser humano. No hay consenso sobre si Q* era o no un paso hacia la AGI, pero el ruido fue suficiente para que el analista José Luis Calvo abriera en X un hilo que recogió el debate con bastante precisión.
Dos propuestas de regulación sobre la mesa
El hilo de Calvo describe dos enfoques que circulan entre quienes se toman en serio la cuestión. El primero es homologar los sistemas de IA al estilo de los medicamentos: pruebas de seguridad y eficacia antes de que cualquier modelo salga al mercado. Tiene la virtud de ser preciso, pero el coste sería prohibitivo para la mayoría de los labs pequeños y para proyectos de código abierto. El segundo parte de las regulaciones de privacidad ya existentes: restringir ciertos usos, no los modelos, y aplicar sanciones cuando se incumplen. Más ligero, pero con menos capacidad de anticipar riesgos sistémicos.
Ninguno de los dos enfoques tenía aún respaldo legislativo concreto cuando se escribió este hilo. El Reglamento de IA de la UE (AI Act), aprobado en 2024, optó por una vía intermedia parecida a la segunda opción: clasificar los sistemas por nivel de riesgo y exigir requisitos proporcionales. Si la AGI llegara a materializarse antes de que ese marco madure, la normativa actual difícilmente estaría preparada.
El largoplacismo y la posición de Nick Bostrom
Calvo introduce en su hilo el término «largoplacismo», asociado sobre todo a Nick Bostrom, filósofo de Oxford y autor de Superinteligencia (2014). La tesis central del libro es que una IA con capacidades superiores a las humanas podría, si no está correctamente alineada con los valores humanos, convertirse en una amenaza existencial. Bostrom fue durante años la voz más citada cuando alguien quería argumentar que la IA podría acabar con la humanidad.
Sin embargo, en declaraciones más recientes Bostrom matiló su posición: llegar a una superinteligencia no sería necesariamente el escenario catastrófico que describió, sino una etapa que, bien gestionada, podría abrir posibilidades importantes para la especie. El giro no es menor, aunque tampoco significa que haya retirado sus advertencias sobre los riesgos de alineación.
La postura de Andrew Ng: el problema es ahora
Frente al largoplacismo, figuras como Andrew Ng (cofundador de Google Brain y creador de Coursera) defienden que el problema relevante no es lo que la AGI podría hacer dentro de décadas, sino lo que la IA actual ya está haciendo: transformar el mercado laboral, concentrar poder en unas pocas empresas y replantear qué trabajos tiene sentido que haga una persona. Ng ha sido bastante explícito al criticar las narrativas de riesgo existencial, argumentando que distorsionan la agenda regulatoria hacia amenazas hipotéticas y alejan la atención de las consecuencias reales y medibles.
No es una postura única de Ng. Yann LeCun, de Meta, ha mantenido durante años que la AGI está más lejos de lo que muchos predicen y que los modelos actuales no son los predecesores directos de una superinteligencia. El debate, entonces, no es solo sobre cómo regular, sino sobre qué riesgos priorizar cuando los recursos de atención política son limitados.
Para entender cómo OpenAI articula su propia visión de la AGI, puedes leer cómo la empresa restructuró su modelo corporativo en 2024 para alinear sus operaciones con esa misión. El debate sobre el impacto concreto en el mercado laboral que Ng menciona está bien ilustrado en el análisis sobre los lenguajes de programación que la IA no va a sustituir.
Preguntas frecuentes sobre AGI y regulación
¿Qué es la AGI y en qué se diferencia de los modelos actuales?
La AGI (Inteligencia Artificial General) designa un sistema capaz de razonar, aprender y resolver problemas en cualquier ámbito, sin estar diseñado para una tarea específica. Los modelos actuales (GPT-4, Claude, Gemini) son muy capaces dentro de sus dominios de entrenamiento, pero no transfieren ese razonamiento de forma autónoma a áreas completamente nuevas. La distancia entre lo actual y la AGI real es uno de los puntos más disputados del campo.
¿Qué era el proyecto Q* de OpenAI?
Reuters informó en noviembre de 2023 que OpenAI había desarrollado un modelo interno llamado Q* con capacidades de razonamiento matemático que sorprendieron a parte del equipo investigador. OpenAI no confirmó los detalles ni publicó ningún paper. Algunos investigadores lo interpretaron como un paso hacia la AGI; otros lo consideraron una mejora de capacidades dentro del enfoque ya existente.
¿El AI Act europeo regula la AGI?
El Reglamento de IA de la UE clasifica los sistemas por nivel de riesgo, pero fue diseñado para la IA actual. Los modelos de propósito general (GPAI) tienen obligaciones específicas, pero la norma no contempla un régimen para un sistema con capacidades de AGI real. Si esa tecnología llegara a existir, probablemente requeriría legislación adicional o una revisión profunda del marco.
¿Qué es el largoplacismo aplicado a la IA?
Es una corriente filosófica que sostiene que las consecuencias a muy largo plazo deben tener tanto peso ético como las inmediatas. Aplicado a la IA, implica que una superinteligencia mal alineada podría causar daños irreversibles a escala civilizatoria, y que ese riesgo justifica medidas preventivas incluso antes de que esa tecnología exista. Sus críticos argumentan que priorizar escenarios hipotéticos distrae de los problemas reales del presente.
¿Cuándo podría llegar la AGI según los expertos?
Las estimaciones varían mucho. Sam Altman y algunos investigadores de OpenAI han sugerido que podría llegar en esta década. Yann LeCun y otros la ven como una posibilidad lejana o incluso indefinida con los enfoques actuales. Lo que sí hay es consenso en que los modelos de 2023-2024 no son AGI, aunque su mejora continua mantiene la pregunta activa.
Recomendamos seguir y leer este completo hilo en Twitter X:
