El Secretario General de las Naciones Unidas, António Guterres, presentó en octubre de 2023 ante el Consejo de Seguridad un análisis sobre los riesgos de la inteligencia artificial y anunció la creación de un Órgano Asesor de Alto Nivel sobre IA, cuyo mandato es presentar opciones para la gobernanza global de la tecnología antes de finales de ese año. Es la primera vez que el Consejo de Seguridad debatia formalmente el tema, lo que da idea de la urgencia con la que la ONU aborda este asunto.
Guterres cifró el potencial económico de la IA en entre 10 y 15 billones de dólares de aportación al PIB global para 2030, según proyecciones de la industria financiera. Pero puso ese dato junto a otro: «ni siquiera sus creadores tienen una idea clara de dónde puede llevarnos este impresionante progreso tecnológico». La combinación de un impacto económico masivo con una incertidumbre técnica profunda es, precisamente, lo que hace urgente el debate sobre gobernanza.
Los riesgos que preocupan a la ONU
El Alto Comisionado de Derechos Humanos ya había alertado antes del debate sobre tres tipos de riesgo específicos: que la IA amplifique sesgos y discriminaciones existentes, que facilite vigilancia masiva autoritaria y que se use para fines criminales o terroristas. Guterres añadió un cuarto: la infraestructura crítica y las operaciones humanitarias de la ONU ya habían sido objetivo de ciberataques en los que la IA jugó un papel.
La cuestión del sesgo discriminatorio no es hipotética. Hay documentación de sistemas de reconocimiento facial con tasas de error hasta diez veces mayores en personas de tez oscura que en personas blancas. Los sistemas de puntuación de crédito o los algoritmos de selección de personal han reproducido o amplificado discriminaciones que existían en los datos de entrenamiento. El debate sobre cómo regular estos efectos también avanza en Europa, donde el AI Act ya incluye requisitos de transparencia y auditoría para sistemas de alto riesgo.
Por qué la gobernanza global es más difícil que la regulación nacional
Los modelos de lenguaje de gran escala (LLM) y los sistemas de IA generativa no tienen fronteras: un modelo entrenado en EE. UU. puede usarse desde cualquier país. Esto crea una asimetría regulatoria real: los países que imponen reglas estrictas asumen costes de cumplimiento que sus competidores no tienen, mientras que los usos dañinos pueden trasladarse a jurisdicciones con menor regulación.
El paralelo que más se repite en las discusiones de política pública es el del armamento nuclear y el de la energía atómica: tecnologías con potencial catastrófico que requirieron tratados internacionales para su control. Guterres no descartó esa analogía. La diferencia es que los actores de IA son principalmente privados (OpenAI, Google, Anthropic, Meta, Mistral), no estados, lo que complica tanto la negociación de acuerdos como su verificación. Compañías como Anthropic, que ahora prepara su salida a bolsa, tienen una escala global que supera a la de muchos estados.
Qué propone la ONU concretamente
Más allá del Órgano Asesor, varios Estados miembros propusieron en el debate crear una nueva entidad de la ONU dedicada exclusivamente a IA, similar a lo que es el OIEA (Organismo Internacional de Energía Atómica) para la energía nuclear. Guterres aplaudió esas iniciativas sin comprometerse con un formato concreto. El debate entre una agencia nueva versus integrar la regulación de IA en organismos ya existentes (OCDE, ITU, WTO) era, en octubre de 2023, una cuestión abierta.
La situación contrasta con lo que ya ocurre a nivel nacional: Órganos reguladores como la FTC en EE. UU. y la AEPD en España ya investigan usos concretos de IA; el AI Act europeo establece un esquema de clasificación por riesgo que es probablemente el marco más detallado vigente. Iniciativas como la de Australia para regular la IA en escuelas muestran que los estados avanzan por su cuenta mientras la gobernanza global se construye.
Preguntas frecuentes
¿Qué es el Órgano Asesor de Alto Nivel sobre IA de la ONU?
Es un organismo creado en 2023 por el Secretario General Guterres con el mandato de proponer opciones para la gobernanza global de la inteligencia artificial. Debía presentar sus recomendaciones antes de finales de 2023 para informar las negociaciones internacionales sobre regulación de IA.
¿Por qué el Consejo de Seguridad de la ONU debatió sobre IA?
Porque los riesgos identificados, como ciberataques con IA a infraestructuras críticas, uso terrorista de modelos generativos o sistemas de desinformación a escala, se consideran amenazas a la paz y seguridad internacionales, que son competencia directa del Consejo.
¿Cuánto puede aportar la IA al PIB global según las proyecciones?
Las proyecciones de la industria financiera que citó Guterres estiman entre 10 y 15 billones de dólares de aportación al PIB global para 2030. Goldman Sachs publicó estimaciones similares en 2023, con un incremento del 7% del PIB global atribuible a la automatización por IA.
¿Qué diferencia la regulación de IA de la regulación nuclear?
Los actores principales de la IA son empresas privadas, no estados. Eso complica los tratados internacionales, que funcionan bien cuando los firmantes son gobiernos, y hace más difícil la verificación del cumplimiento. Además, el conocimiento de IA se difunde en código abierto, lo que impide el tipo de monopolio tecnológico que existía con el armamento nuclear.
