La Unión Europea ha aprobado recientemente la Ley de Inteligencia Artificial (Ley de IA), un marco regulatorio que busca establecer nuevas reglas para el uso de la inteligencia artificial en la UE. Sin embargo, a pesar de los esfuerzos iniciales del Parlamento Europeo por prohibir la vigilancia biométrica masiva, el texto final de la ley ha sido criticado por los miembros del Partido Pirata por no proteger adecuadamente los derechos de los ciudadanos.
Durante las negociaciones entre el Parlamento Europeo, la Comisión Europea y los gobiernos nacionales, conocidas como «trílogos», la posición del Parlamento Europeo que buscaba una prohibición integral de las tecnologías de vigilancia biométrica masiva fue completamente modificada. Como resultado, la nueva ley ahora permitirá efectivamente a las fuerzas del orden la introducción de software de reconocimiento facial y cámaras de vigilancia facial en espacios públicos, a pesar de que estas tecnologías son propensas a errores.
Patrick Breyer, eurodiputado del Partido Pirata alemán, comenta: «El Parlamento Europeo se propuso prohibir la vigilancia biométrica masiva en Europa, pero termina legitimándola. La escalofriante monitorización de nuestro comportamiento y la ubicua vigilancia facial en tiempo real en espacios públicos, la identificación biométrica errónea utilizada incluso para delitos menores, la clasificación racial de las personas, la tecnología de ‘detector de mentiras de vídeo’ sin base científica: ninguna de estas tecnologías distópicas estará fuera de los límites de los gobiernos de la UE, incluidos los gobiernos iliberales como el de Hungría. En lugar de protegernos de estos instrumentos autoritarios, la Ley de IA proporciona un manual de instrucciones para que los gobiernos implementen la vigilancia biométrica masiva en Europa. Por importante que sea regular la tecnología de la IA, defender nuestra democracia contra la conversión en un estado de vigilancia de alta tecnología no es negociable para nosotros, los Piratas».
Marcel Kolaja, eurodiputado y Cuestor del Parlamento Europeo por el Partido Pirata checo y ponente de opinión de la Ley de IA en la Comisión de Cultura y Educación (CULT), añade: «La Ley de IA es una decepción para mí. Existe una clara necesidad de normas sobre la inteligencia artificial. Sin embargo, la forma actual que ha surgido de las negociaciones con los gobiernos nacionales no alcanza lo que debería haber hecho. Los gobiernos nacionales han insertado una sección que de facto crea un marco legal para la vigilancia generalizada de las personas mediante cámaras biométricas. Dichas cámaras, equipadas con inteligencia artificial, son capaces de reconocer los rostros de las personas y, por lo tanto, de hacer un seguimiento de quién ha estado dónde, cuándo y con quién. La Ley de IA debería haber prohibido esta herramienta orwelliana, pero en su lugar la legaliza explícitamente. Es una invasión de la privacidad a la que los Piratas nunca levantaremos la mano. Es una lástima, porque la Ley de IA también tiene aspectos positivos. Me alegro, por ejemplo, de haber podido negociar normas para los llamados ‘e-proctoring’, programas que se utilizan para controlar a los estudiantes cuando realizan exámenes en línea. Si la inteligencia artificial está mal entrenada, puede evaluar, por ejemplo, el ruido del pasillo de un dormitorio como trampa. Dada la repercusión que esto puede tener en la vida de un joven, merece la pena vigilarlo y asegurarse de que el programa funcione como debe. Lamentablemente, al final, cuando se trata de la Ley de IA, los aspectos negativos superan a los positivos».
La aprobación de la Ley de IA es un hito importante en la regulación de la inteligencia artificial en la Unión Europea. Sin embargo, las críticas de los miembros del Partido Pirata ponen de manifiesto que el texto final de la ley no logra proteger adecuadamente los derechos y libertades de los ciudadanos. La legalización de la vigilancia biométrica masiva, a pesar de los riesgos de error y sesgo, es una preocupación fundamental que no ha sido abordada de manera satisfactoria.
La inteligencia artificial es una tecnología con un enorme potencial, pero también conlleva importantes riesgos para los derechos fundamentales. Es crucial que la regulación de la IA en Europa equilibre adecuadamente la innovación y el progreso tecnológico con la protección de los derechos y libertades de los ciudadanos. La Ley de IA, tal como ha sido aprobada, parece haber fallado en este objetivo.
Los Piratas y otros defensores de los derechos digitales seguirán presionando para que se revisen y mejoren las disposiciones de la Ley de IA, con el fin de garantizar una mayor protección de los derechos de los ciudadanos frente a los abusos potenciales de la inteligencia artificial. La batalla por una regulación equilibrada y responsable de la IA en Europa está lejos de haber terminado.
