OpenAI ha decidido reducir temporalmente el ritmo de entrenamiento de sus modelos de inteligencia artificial más avanzados después de detectar que Astra, uno de sus próximos sistemas, podría alcanzar el nivel de capacidad cibernética “Critical” definido en su Preparedness Framework. La compañía llegó a detener durante dos semanas el entrenamiento por refuerzo de sus últimos modelos destinados a despliegue y mantiene todavía paralizada su mayor ejecución de entrenamiento por refuerzo prevista mientras refuerza seguridad, monitorización y alineamiento.
Las claves del parón de OpenAI en 20 segundos
- OpenAI pausó durante dos semanas parte del entrenamiento por refuerzo de sus modelos más avanzados.
- Su mayor entrenamiento frontier mediante RL continúa detenido mientras realiza pruebas más pequeñas.
- Astra podría alcanzar el nivel “Critical” de capacidad cibernética definido por la compañía.
- OpenAI ha reforzado aislamiento, restricciones de red y monitorización de los modelos.
- El nuevo sistema de vigilancia consume alrededor de un 20 % del cómputo de inferencia supervisado.
La decisión no significa que OpenAI haya detenido completamente el desarrollo de nuevos modelos. Continúan entrenamientos a menor escala, evaluaciones y determinadas cargas que cumplen los nuevos requisitos. La compañía habla expresamente de haber reducido temporalmente el ritmo de escalado mientras obtiene más evidencias sobre el comportamiento de sus sistemas y comprueba que las nuevas medidas funcionan.
El movimiento llega después de dos acontecimientos diferentes. Por un lado, un incidente de seguridad ocurrido durante evaluaciones relacionadas con Hugging Face. Por otro, las evaluaciones preliminares de Astra, que mostraron avances suficientes en programación agéntica y ciberseguridad como para que OpenAI considere que ya no puede descartar que alcance capacidades cibernéticas críticas. Astra, según ha aclarado la propia compañía, no estuvo involucrado en el incidente de Hugging Face.
Qué significa que Astra pueda alcanzar una capacidad cibernética “Critical”
El término utilizado por OpenAI puede resultar más alarmante si se separa de su definición técnica.
Dentro del Preparedness Framework de la compañía, alcanzar el nivel “Critical” en ciberseguridad implica capacidades muy elevadas. Entre los criterios se encuentra que un modelo pueda identificar y desarrollar exploits funcionales de día cero contra numerosos sistemas críticos reales y reforzados sin intervención humana, o diseñar y ejecutar de principio a fin estrategias nuevas de ciberataque contra objetivos protegidos a partir únicamente de un objetivo general.
OpenAI no asegura que Astra haya demostrado definitivamente esas capacidades.
Lo que comunicó el 7 de agosto es que sus evaluaciones internas y las valoraciones de expertos habían progresado lo suficiente como para no poder descartar que el modelo alcance ese umbral. Por ese motivo decidió tratar determinadas cargas de Astra con el nivel de protección correspondiente a ese riesgo mientras continúa evaluándolo.
La diferencia respecto a la generación inmediatamente anterior resulta relevante. OpenAI indica que modelos previos, incluido GPT-5.6 Sol, fueron evaluados en el nivel “High” de capacidad cibernética, un escalón inferior al “Critical” que ahora podría alcanzar Astra.
No es solamente una cuestión de lo que el modelo pueda responder dentro de un chatbot. El riesgo aumenta cuando una IA suficientemente capaz puede ejecutar código, utilizar herramientas, trabajar durante largos periodos y acceder a redes o sistemas informáticos.
Precisamente estos entornos internos son los que OpenAI está endureciendo.
Dos semanas sin parte del entrenamiento y un gran entrenamiento todavía parado
La compañía reconoce que las nuevas medidas están teniendo un coste real sobre el desarrollo de sus modelos.
OpenAI detuvo durante dos semanas el entrenamiento mediante aprendizaje por refuerzo (RL) de sus últimos modelos destinados a despliegue. Durante ese periodo reforzó sus entornos de investigación, amplió las pruebas ofensivas contra sus propias protecciones y extendió sus sistemas de monitorización.
La actividad no se ha recuperado completamente.
Su mayor ejecución de entrenamiento frontier mediante RL prevista continúa en pausa. Mientras tanto, los investigadores están realizando entrenamientos y evaluaciones de menor escala para estudiar el comportamiento de los modelos, validar las nuevas protecciones y obtener más evidencias de alineamiento antes de continuar.
Algo parecido está ocurriendo específicamente con Astra.
Algunas cargas de entrenamiento y evaluación ya cumplen las nuevas exigencias y han podido continuar. Sin embargo, OpenAI reconoce que un número significativo permanece detenido hasta que pueda migrarse a los nuevos entornos reforzados. Las cargas relacionadas con seguridad y alineamiento tienen prioridad durante esa migración.
Por tanto, resulta excesivo afirmar que OpenAI ha detenido el entrenamiento de todos sus modelos avanzados. Sí ha aplicado un freno temporal importante a determinados trabajos frontier y mantiene paralizada su mayor ejecución prevista.
Más aislamiento para impedir que una IA salte de su entorno
Uno de los principales cambios está en la propia infraestructura utilizada para entrenar y evaluar los modelos.
OpenAI exige ahora sandboxes más estrictos para las cargas que ejecutan código generado por los modelos o cualquier otro código considerado no fiable.
También ha aumentado el aislamiento de red.
Las cargas de mayor riesgo tienen restricciones adicionales para comunicarse con Internet y con redes internas. La arquitectura busca que comprometer una carga o uno de los servicios que la soportan no proporcione automáticamente acceso al exterior o a otros sistemas de la compañía.
OpenAI también asegura haber eliminado determinados servicios compartidos potencialmente vulnerables, reducido privilegios permanentes, reforzado las fronteras de confianza y ampliado la recopilación de registros de seguridad.
A esto se añade la automatización de pruebas contra esos límites mediante los propios modelos.
El objetivo es aplicar defensa en profundidad: si una barrera falla, deberían existir otras capaces de impedir que una acción inesperada termine convirtiéndose en un acceso no autorizado.
Los requisitos más estrictos se están aplicando actualmente a Astra y a los modelos especializados en ciberseguridad.
OpenAI monitoriza la actividad interna token a token
El otro gran cambio está ocurriendo en la vigilancia de los modelos durante su funcionamiento.
La compañía ha ampliado su sistema de monitorización con un proceso de varias etapas. La primera utiliza clasificadores de activaciones que inspeccionan la actividad interna del modelo en cada token muestreado.
Cuando aparece una señal potencialmente problemática, el caso escala hacia investigadores automatizados más sofisticados y que necesitan mayor capacidad de cálculo.
Estos sistemas analizan las acciones realizadas mediante herramientas, el razonamiento disponible y la secuencia completa de actividad buscando comportamientos como accesos no autorizados, robo de información, acciones destructivas o intentos de superar las medidas de seguridad.
OpenAI pretende generar una alerta en un máximo de 30 minutos desde que su sistema detecta una actividad preocupante.
Si aparece una posible violación de una frontera crítica de seguridad, reciben el aviso los equipos de seguridad, investigación y protección. Si en 30 minutos no pueden determinar de forma concluyente que se trata de un falso positivo, la instrucción es detener la actividad.
Desde que OpenAI determinó el 7 de agosto que Astra podría alcanzar capacidades cibernéticas críticas, esta vigilancia adicional se aplica a toda inferencia de Astra que utilice herramientas, y no solamente a los procesos de entrenamiento por refuerzo y evaluación.
Vigilar una IA tan capaz también cuesta mucho cómputo
El aumento de seguridad tiene un coste que resulta especialmente interesante desde el punto de vista de la infraestructura de IA.
OpenAI estima que su sistema actual de monitorización añade aproximadamente un 20 % de sobrecarga sobre el cómputo de inferencia que está supervisando, aunque reconoce que la cifra cambia considerablemente dependiendo del entrenamiento o evaluación.
Es decir, parte de la capacidad de cálculo disponible ya no se dedica exclusivamente a obtener respuestas o entrenar el modelo. También hay que invertir cómputo en vigilar qué está haciendo.
Esta situación introduce una nueva variable en la carrera por construir modelos frontier.
Hasta ahora el debate sobre infraestructura se ha concentrado principalmente en disponer de más GPU, energía, memoria, almacenamiento y redes. Si los futuros modelos necesitan sistemas de supervisión cada vez más sofisticados, el coste de la seguridad también tendrá que formar parte del presupuesto computacional.
OpenAI espera incluso que los propios modelos terminen realizando buena parte del trabajo de seguridad, incluida la defensa frente a otros modelos.
Astra no tiene una fecha de lanzamiento anunciada
La decisión tampoco permite concluir que Astra vaya a retrasarse un número determinado de meses ni que vaya a comercializarse bajo el nombre GPT-6.
La información oficial consultada no proporciona una fecha de lanzamiento ni confirma cuál será su denominación comercial.
Astra es descrito simplemente como uno de los próximos modelos de OpenAI.
Lo que sí está claro es que la seguridad está afectando directamente al ritmo de investigación. La propia compañía reconoce que elevar los requisitos de sus entornos ha requerido un trabajo considerable de ingeniería y está provocando costes y retrasos en la investigación frontier.
El director de investigación de OpenAI, Jakub Pachocki, ha resumido el cambio señalando que la confianza en la seguridad tendrá cada vez más peso a la hora de determinar la velocidad a la que avanza el desarrollo de IA.
Ese planteamiento conecta con Pacing the Frontier, una declaración firmada por más de 1.300 trabajadores de compañías de IA frontier que reclama mecanismos técnicos y de gobernanza capaces de permitir una desaceleración coordinada si el desarrollo de sistemas automatizados de IA avanza más rápido que la capacidad para comprenderlos o controlarlos.
En el caso de OpenAI, esa discusión acaba de pasar de la teoría a una decisión interna concreta.
La compañía no ha parado la investigación ni afirma que Astra esté fuera de control. Pero sí ha decidido que determinados entrenamientos no deben continuar al ritmo previsto hasta que la infraestructura utilizada para desarrollar los modelos sea capaz de contener sistemas con unas capacidades cibernéticas que empiezan a aproximarse a un nuevo umbral.
Preguntas frecuentes
¿OpenAI ha detenido el entrenamiento de sus modelos de IA?
No completamente. OpenAI pausó durante dos semanas el entrenamiento por refuerzo de sus últimos modelos destinados a despliegue y mantiene en espera su mayor ejecución frontier de RL, mientras continúa con entrenamientos y evaluaciones de menor escala.
¿Por qué OpenAI ha frenado el entrenamiento?
La compañía quiere reforzar sus medidas de seguridad después de un incidente durante evaluaciones externas y de encontrar evidencias preliminares de que Astra podría alcanzar el nivel “Critical” de capacidad cibernética de su Preparedness Framework.
¿Astra es capaz de realizar ciberataques autónomos?
OpenAI no afirma que haya demostrado definitivamente el nivel “Critical”. Sus evaluaciones indican que no puede descartar que Astra alcance ese umbral, por lo que está aplicando medidas de seguridad acordes con ese escenario.
¿Cuándo se lanzará Astra?
OpenAI no ha anunciado una fecha de lanzamiento ni ha confirmado que Astra vaya a convertirse en GPT-6 o adoptar otra denominación comercial.
