El 14 de junio de 2023, el Parlamento Europeo adoptó su posición negociadora sobre la propuesta de Ley de Inteligencia Artificial (AI Act), el primer reglamento integral de este tipo a nivel mundial. Con este paso, la institución dejó listo su texto para negociar la versión final con los estados miembros de la UE.
La Comisión Europea presentó la propuesta inicial en abril de 2021. El modelo regulatorio se basa en una clasificación por nivel de riesgo: cuanto mayor sea el riesgo que un sistema de IA representa para los ciudadanos, más estrictos serán los requisitos que deberá cumplir.
Cómo clasifica el riesgo la Ley de IA
Riesgo inaceptable. Los sistemas de IA que supongan una amenaza directa para las personas quedarán prohibidos. Incluyen la manipulación cognitiva de grupos vulnerables (como juguetes con voz que puedan inducir conductas peligrosas en menores), los sistemas de puntuación social basados en comportamientos o características personales, y la identificación biométrica en tiempo real en espacios públicos, incluido el reconocimiento facial. Las excepciones están muy acotadas y requieren autorización judicial.
Alto riesgo. Esta categoría cubre sistemas que pueden afectar la seguridad o los derechos fundamentales de las personas. Abarca ocho áreas específicas como la identificación biométrica, la gestión de infraestructuras críticas, la educación, el empleo, los servicios públicos esenciales, la administración de justicia y la gestión de la migración. Los sistemas incluidos en esta categoría deberán registrarse en una base de datos de la UE.
IA generativa. Modelos como ChatGPT quedan sujetos a requisitos específicos de transparencia: deberán identificarse como sistemas de generación automática y garantizar que no producen contenidos ilegales.
Riesgo limitado. Los sistemas con un riesgo menor mantienen obligaciones de transparencia. Los usuarios deben saber cuándo interactúan con IA, sobre todo cuando se trata de contenido manipulado como los deepfakes.
El Parlamento prioriza supervisión humana y no discriminación
Para el Parlamento, la supervisión humana de los sistemas de IA es un elemento central. El texto parlamentario insiste en que la IA no puede producir resultados discriminatorios y debe respetar el medio ambiente. También reclama una definición tecnológicamente neutra de IA, aplicable a sistemas futuros y no solo a los que existen en el momento de aprobar la ley.
Con la posición parlamentaria fijada, el siguiente paso eran las negociaciones trilaterales (Parlamento, Consejo y Comisión) para cerrar el texto definitivo. El objetivo en junio de 2023 era alcanzar un acuerdo antes de finales de ese año. Fuente: Parlamento Europeo.
El debate regulatorio llega en un momento en que el gasto en IA escala a ritmo acelerado; el análisis de GitLab sobre el coste de la IA en el desarrollo de software muestra ese otro ángulo del debate. Para las empresas que están adoptando IA, la regulación tiene implicaciones directas en cómo pueden desplegar estas herramientas: las seis aplicaciones de IA en PYMEs ilustran los casos concretos que quedarán dentro del alcance del reglamento.
Preguntas frecuentes
¿Cuándo se propuso la Ley de IA de la UE?
La Comisión Europea presentó la propuesta en abril de 2021. El Parlamento Europeo adoptó su posición negociadora el 14 de junio de 2023, abriendo el camino a las negociaciones formales con los estados miembros.
¿Qué ocurre con los sistemas de IA de riesgo inaceptable?
Quedarán directamente prohibidos. Incluyen la manipulación cognitiva de grupos vulnerables, los sistemas de puntuación social y el reconocimiento facial en tiempo real en espacios públicos. Las excepciones requieren autorización judicial.
¿La Ley de IA afecta a ChatGPT y otros modelos generativos?
Sí. La propuesta incluye una categoría específica para la IA generativa con requisitos de transparencia: los modelos deben identificarse como tales y evitar la generación de contenidos ilegales.
¿Esta regulación afecta a empresas de fuera de la UE?
Sí. El reglamento tiene alcance extraterritorial: cualquier empresa que ofrezca sistemas de IA en el mercado de la UE o cuyos sistemas afecten a ciudadanos europeos deberá cumplir los requisitos, independientemente de dónde esté establecida.
