Estados Unidos y China han planteado crear un mecanismo de comunicación directa para avisarse de incidentes de inteligencia artificial que puedan tener implicaciones para la seguridad nacional. La propuesta, discutida por el secretario del Tesoro estadounidense Scott Bessent y el viceprimer ministro chino He Lifeng en Nueva York, llega antes de la cumbre prevista entre Donald Trump y Xi Jinping y busca reducir el riesgo de que un incidente provocado por sistemas de IA termine interpretándose como una acción deliberada.
Las claves de la línea directa de IA entre EE. UU. y China en 20 segundos
- Washington ha propuesto un mecanismo bilateral para notificar incidentes relevantes de IA.
- La idea incluye mantener abierto un canal de comunicación ante amenazas para la seguridad nacional.
- El objetivo es evitar errores de interpretación durante incidentes relacionados con sistemas autónomos.
- La propuesta llega antes de la reunión de Donald Trump y Xi Jinping prevista para el 24 de septiembre.
- Ambos países prevén continuar las conversaciones sobre seguridad de IA en los próximos meses.
La propuesta no equivale todavía a la creación de una línea directa operativa. Lo que existe es una iniciativa para establecer un mecanismo de notificación y diálogo sobre incidentes de IA. Reuters señala que la idea ya había sido planteada en mayo, pero hasta ahora no se había creado un foro formal bilateral específico para estos asuntos.
La cuestión tiene una particularidad frente a otros mecanismos tradicionales de comunicación entre potencias: un incidente podría producirse a una velocidad difícil de gestionar mediante los canales diplomáticos habituales. Si un sistema de IA actuase de forma inesperada sobre una infraestructura crítica o participase en una operación cibernética, ambos países tendrían que determinar rápidamente qué ha ocurrido y quién está detrás.
Una comunicación directa permitiría, al menos en teoría, reducir el riesgo de interpretar automáticamente un comportamiento de un sistema como una acción deliberada del otro país.
De las negociaciones comerciales a los riesgos de la IA autónoma
La propuesta apareció durante las conversaciones mantenidas en Nueva York por Bessent y He Lifeng, que también abordaron comercio y otras cuestiones de la relación entre Washington y Pekín. El componente relacionado con IA se está incorporando así a una negociación mucho más amplia entre las dos potencias.
Reuters informa de que Estados Unidos propuso un mecanismo de notificación de seguridad de IA para que pueda ser considerado en la próxima cumbre. El alcance concreto del sistema todavía no está definido y la respuesta pública de China ha sido limitada.
La idea es especialmente relevante porque Estados Unidos y China compiten por desarrollar modelos y sistemas de IA cada vez más avanzados, mientras ambos gobiernos están expresando preocupación por determinados usos de esta tecnología.
Los riesgos que aparecen en las conversaciones no se limitan a un modelo que genere una respuesta incorrecta. También incluyen sistemas capaces de ejecutar tareas de forma autónoma, operaciones cibernéticas, posibles usos militares y aplicaciones relacionadas con infraestructuras críticas.
Un informe reciente de Anthropic, por ejemplo, describe operaciones en las que actores maliciosos utilizaron Claude para automatizar investigación de vulnerabilidades y otras tareas de ciberseguridad ofensiva. La compañía asegura haber detectado y bloqueado estas actividades y haber compartido información con autoridades y otras empresas del sector.
Ese tipo de incidentes ayuda a explicar por qué la conversación internacional empieza a centrarse no solo en las capacidades de los modelos, sino también en lo que pueden hacer cuando se conectan a herramientas, sistemas externos y procesos automatizados.
El problema de un incidente que pueda escalar rápidamente
Una de las razones para plantear un canal de comunicación específico es el riesgo de que un comportamiento automatizado sea interpretado como una acción hostil.
Un sistema autónomo podría detectar una amenaza, ejecutar una acción sobre una red o generar una alerta de seguridad sin que las personas responsables hayan comprendido todavía qué está sucediendo. Si el incidente afecta a sistemas utilizados por otra potencia, el tiempo disponible para verificarlo puede reducirse considerablemente.
En un escenario de este tipo, una línea de comunicación no serviría para controlar directamente la inteligencia artificial. Su función sería permitir que los gobiernos compartan información sobre lo ocurrido y aclaren si existe una amenaza real, un fallo técnico, un ataque de terceros o una interpretación errónea.
Reuters también ha informado de conversaciones entre expertos estadounidenses y chinos sobre mecanismos de seguridad para evitar que sistemas de IA utilizados en ámbitos militares puedan desencadenar una escalada accidental. Entre las preocupaciones planteadas están los sistemas que interfieran con redes de mando nuclear o ejecuten operaciones cibernéticas militares.
El concepto se parece al de otros mecanismos de comunicación diseñados para gestionar crisis entre potencias, aunque el ámbito de la IA presenta características propias. La velocidad de ejecución de un software puede ser mucho mayor que la de una cadena tradicional de decisión humana, y una misma herramienta puede estar conectada a redes, bases de datos y sistemas de ejecución.
La IA ya forma parte de la conversación de seguridad nacional
La iniciativa llega además cuando la discusión sobre seguridad de IA está pasando de los laboratorios tecnológicos a gobiernos y organismos internacionales.
OpenAI pidió recientemente que Estados Unidos impulse estándares técnicos internacionales para sistemas avanzados, incluidos mecanismos comunes para comunicar incidentes relacionados con IA. La empresa también ha señalado la necesidad de coordinar el desarrollo de modelos de frontera y sistemas capaces de realizar determinadas tareas de forma autónoma.
La preocupación tampoco se limita a Estados Unidos y China. Naciones Unidas y distintos gobiernos están incorporando la seguridad de la IA a sus conversaciones sobre riesgos tecnológicos, ciberseguridad e infraestructuras críticas.
En el caso de Washington y Pekín, el problema es más complejo porque la cooperación se desarrolla mientras ambos países mantienen una fuerte competencia tecnológica. Las restricciones estadounidenses sobre determinados semiconductores avanzados y las diferencias sobre el desarrollo de capacidades de IA forman parte de una relación en la que existe un alto nivel de desconfianza.
Por eso, un mecanismo de comunicación sobre incidentes no implicaría necesariamente un acuerdo amplio sobre cómo debe desarrollarse la IA. Podría ser una medida mucho más limitada: mantener abierto un canal para situaciones en las que la rapidez de comunicación pueda evitar una interpretación equivocada.
Qué se sabe del futuro mecanismo
Por ahora, los detalles técnicos son escasos. La propuesta estadounidense habla de un mecanismo de notificación y de un diálogo bilateral sobre IA, pero no se ha presentado un protocolo público que determine qué incidentes deberían comunicarse, quién tendría autoridad para activar el canal o qué información compartirían ambos países.
También está pendiente conocer la respuesta formal de China y si la propuesta se incorporará a los acuerdos derivados de la reunión entre Trump y Xi Jinping.
Bessent ha indicado que habrá nuevas conversaciones sobre seguridad de IA dentro de aproximadamente dos meses.
El alcance de esas conversaciones será una de las claves para determinar si el mecanismo termina convirtiéndose en un canal estable o se queda en una propuesta dentro del actual proceso diplomático.
Lo que ya ha cambiado es el tipo de riesgo que los gobiernos están intentando gestionar. La IA ha dejado de ser únicamente una cuestión de productividad, software o investigación. Cuando los modelos pueden ejecutar tareas de forma autónoma y acceder a sistemas externos, un fallo, un ataque o una mala interpretación pueden adquirir una dimensión de seguridad nacional.
En ese escenario, saber que existe un canal directo para preguntar qué está ocurriendo puede ser tan importante como la propia tecnología que haya provocado el incidente.
Preguntas frecuentes
¿EE. UU. y China ya tienen una línea directa para incidentes de IA?
No. Lo que existe actualmente es una propuesta para crear un mecanismo bilateral de notificación y comunicación sobre incidentes relacionados con IA. Los detalles todavía están pendientes de negociación.
¿Para qué serviría este canal?
Su objetivo sería facilitar una comunicación rápida ante incidentes de IA que puedan afectar a la seguridad nacional y reducir el riesgo de interpretaciones erróneas sobre el origen o la naturaleza de una amenaza.
¿Cuándo se planteó esta propuesta?
Estados Unidos ya había planteado la idea en mayo, pero Reuters señala que hasta las conversaciones de septiembre no se había establecido un foro formal bilateral específico para seguridad de IA.
¿Qué riesgos de IA preocupan a ambos países?
Las conversaciones abarcan riesgos relacionados con sistemas autónomos, ciberataques, posibles usos militares y amenazas contra infraestructuras críticas. El alcance exacto de la futura cooperación todavía no está definido.
