La inteligencia artificial (IA) toma decisiones, aprende de datos y automatiza procesos con una velocidad que la sociedad todavía no ha terminado de regular. Qué valores deben guiar ese desarrollo y quién tiene que tomar las decisiones fue el núcleo del debate «Ética en un mundo tecnológico», organizado por The Valley en su espacio de innovación The Place, con Phil Yim y Pilar Llácer como protagonistas.
Yim, director de estrategia en FROG y experto en innovación con formación filosófica, y Llácer, filósofa y doctora en ética, abordaron desde ángulos distintos el mismo problema: la tecnología avanza más rápido que la capacidad colectiva de evaluar su impacto. «Lo que la inteligencia artificial será en el futuro es lo que hoy estamos desarrollando», sintetizó Llácer.
Cuatro principios que propone el marco ético
Llácer planteó cuatro condiciones para que el desarrollo de la IA pueda considerarse éticamente responsable:
- Diseñar con principios éticos desde el inicio: transparencia, justicia, imparcialidad y privacidad deben estar presentes en el diseño de algoritmos, no añadirse después como parche. Minimizar sesgos antes de que el sistema esté en producción es más barato y más eficaz que corregirlos una vez desplegado.
- Tener en cuenta el impacto social y humano: la IA debe mejorar la calidad de vida de las personas, no ampliar brechas ya existentes. El acceso desigual a las herramientas de IA entre países, sectores o grupos demográficos es una consecuencia real, no una hipótesis.
- Garantizar la transparencia y rendir cuentas sobre los resultados: los sistemas de IA deben poder explicarse. Los desarrolladores y las empresas tienen que proporcionar información clara sobre cómo toman decisiones sus modelos y estar dispuestos a responder cuando esas decisiones causan daño.
- Colaborar para establecer regulación efectiva: ningún actor por sí solo puede fijar estándares éticos que funcionen. La colaboración entre empresas, reguladores, sociedad civil y academia es la única vía para establecer marcos que protejan derechos sin frenar la innovación.
Del individualismo al pensamiento colectivo
Yim puso énfasis en un cambio de mentalidad que considera necesario: dejar de preguntarse solo cómo la IA puede beneficiarme a mí para preguntarse cómo puede mejorar la vida de todos. Las decisiones éticas que se toman hoy en el diseño de sistemas de IA tienen consecuencias que no afectan a un individuo, sino a los millones que interactúan con esos sistemas.
Llácer planteó preguntas que no tienen respuesta sencilla: ¿puede la IA desarrollar criterios para determinar lo que es bueno para la sociedad? ¿Es posible que actúe contra sus propios intereses si cree que eso es lo correcto? No se trata de ficción científica, sino de debates reales que ya ocupan a los comités de ética de empresas como OpenAI, Anthropic o DeepMind, y a los reguladores europeos que trabajan en el AI Act (Reglamento Europeo de IA).
La regulación como salvaguarda, no como freno
Uno de los puntos de convergencia entre ambos ponentes fue la necesidad de regulación, aunque no como obstáculo al progreso sino como condición para que ese progreso sea sostenible. La regulación tardea en llegar: el AI Act europeo lleva años en tramitación y su aplicación práctica sigue generando debate sobre quién asume la responsabilidad cuando un sistema de IA causa un daño.
El debate sobre qué organismos deben supervisar la IA en España también ha sido relevante: la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), cuya sede fue disputada por varias ciudades, es el marco institucional pensado para esa función. Puedes ver más sobre ese proceso en este artículo sobre la candidatura de Granada para acoger la AESIA.
La cuestión de la privacidad también apareció en el debate. Los modelos de IA necesitan datos para funcionar, y esos datos a menudo provienen de personas que no han dado un consentimiento informado sobre cómo se usarán. El auge de los modelos de código abierto ha cambiado parte de esta dinámica, como explica este análisis sobre modelos de IA abiertos, privacidad y costes.
Preguntas frecuentes
¿Qué se entiende por IA ética?
La IA ética es la que se diseña y despliega teniendo en cuenta principios como la transparencia, la imparcialidad, la privacidad y el impacto social. No existe una definición única aceptada por todos, pero los marcos más extendidos comparten esos cuatro elementos como base.
¿Qué es el AI Act europeo?
El AI Act (Reglamento Europeo de Inteligencia Artificial) es la normativa de la Unión Europea que clasifica los sistemas de IA según su nivel de riesgo (inaceptable, alto, limitado o mínimo) y establece obligaciones para proveedores y usuarios. Es el marco regulatorio más completo que existe en el mundo y sirve de referencia para otros países.
¿Por qué importa la diversidad en los equipos que desarrollan IA?
Los sesgos de un sistema de IA suelen reflejar los sesgos de quienes lo diseñaron. Si los equipos de desarrollo son homogéneos en cuanto a género, origen o formación, el sistema probablemente ignorará o perjudicará a los grupos no representados. La diversidad en los equipos reduce ese riesgo y produce sistemas más justos.
¿Qué es la AESIA?
La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) es el organismo público español creado para supervisar el cumplimiento del AI Act en España. Tiene su sede en A Coruña y es responsable de garantizar que los sistemas de IA utilizados en el país respeten los derechos fundamentales y las normas establecidas por la regulación europea.
