El 14 de junio de 2023, el Parlamento Europeo aprobó su posición negociadora sobre el Reglamento de Inteligencia Artificial (AI Act) de la Unión Europea. Con ese paso, las tres instituciones clave, el Parlamento, el Consejo y la Comisión, quedaron listas para arrancar las negociaciones trilaterales que deberían fijar el texto definitivo. El calendario manejado apuntaba a una aprobación entre finales de 2023 y principios de 2024.
Qué propone el Parlamento Europeo
La posición del Parlamento busca que cualquier sistema de IA desarrollado o usado en territorio de la UE respete los derechos fundamentales del bloque: seguridad, privacidad, transparencia y no discriminación. El texto clasifica los usos de la IA por niveles de riesgo (inaceptable, alto, limitado y mínimo) y establece requisitos proporcionales a cada categoría.
Uno de los puntos más controvertidos es la identificación biométrica remota en espacios públicos. Los sistemas de «biometría remota» pueden operar sin el conocimiento ni el consentimiento de las personas presentes en un espacio público. El Parlamento propuso restricciones estrictas para este tipo de uso, dado el riesgo de vigilancia masiva.
El caso Veridas: consentimiento y corta distancia
La empresa Veridas, especializada en tecnología biométrica, presentó durante el proceso legislativo un enfoque diferenciado: sus soluciones requieren que el usuario se coloque a corta distancia del sistema y dé su consentimiento expreso antes de que sus datos entren en cualquier base de datos de comparación. Leyre Arbona, directora de Legal y Cumplimiento de la compañía, participó en las fases previas de consulta, trasladando la posición de la empresa sobre verificación y autenticación biométrica frente a la identificación sin consentimiento.
La distinción es relevante para el texto final del AI Act: la verificación (confirmar que alguien es quien dice ser) y la identificación (reconocer a alguien en una multitud sin que lo sepa) tienen implicaciones de riesgo muy distintas.
Modelos de IA de propósito general (GPAI)
Otro punto de debate eran los modelos de IA de propósito general (GPAI, en su acrónimo inglés), como GPT-4, que no encajan bien en una clasificación por casos de uso. El Parlamento propuso obligaciones específicas para los proveedores de estos modelos: transparencia sobre datos de entrenamiento, respeto al derecho de autor y evaluaciones de riesgo sistemático para los modelos más capaces. Este punto fue uno de los más complejos de las negociaciones trilaterales, ya que afectaba directamente a OpenAI, Google, Anthropic y otras compañías con modelos de gran escala.
La regulación de la IA en Europa tiene implicaciones directas para las empresas que despliegan sistemas en la nube y para los proveedores de infraestructura. Gartner advierte que aplicar las mismas reglas de gobierno a todos los agentes de IA puede llevar al fracaso de muchos proyectos empresariales, una tensión que el AI Act también trata de equilibrar.
Contexto español: la AESIA
España está entre los países que deben crear una autoridad nacional de supervisión en cumplimiento del AI Act. La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) fue uno de los primeros organismos de este tipo en constituirse en Europa, con sede en A Coruña.
Preguntas frecuentes
¿Qué es el AI Act de la UE?
Es el primer reglamento integral sobre inteligencia artificial en el mundo. Clasifica los sistemas de IA por nivel de riesgo y establece requisitos de transparencia, seguridad y rendición de cuentas proporcionales a ese nivel de riesgo.
¿Qué usos de la IA prohíbe o restringe?
Los usos de riesgo inaceptable están prohibidos: puntuación social general, manipulación subliminal, e identificación biométrica remota en tiempo real en espacios públicos salvo excepciones muy tasadas. Los de riesgo alto requieren evaluación previa, auditoría y registro.
¿A quién afecta el AI Act?
A cualquier empresa que desarrolle o use sistemas de IA en la UE, independientemente de si tiene sede en Europa. Eso incluye a proveedores de modelos como OpenAI, Google o Anthropic si sus sistemas se utilizan en territorio europeo.
¿Qué son los modelos GPAI en el contexto del AI Act?
Son modelos de inteligencia artificial de propósito general (General Purpose AI), es decir, modelos como GPT-4 o Gemini que no se diseñan para un caso de uso específico sino que pueden aplicarse a múltiples tareas. El AI Act establece obligaciones diferenciadas para los proveedores de estos modelos, especialmente para los de mayor capacidad.
