La inteligencia artificial ya forma parte de numerosas infraestructuras y procesos empresariales en Europa. Su presencia va mucho más allá de los proyectos piloto y se extiende a través de copilotos, agentes autónomos y aplicaciones SaaS generativas, entre otras soluciones.
Sin embargo, el rápido avance de estas tecnologías está planteando un nuevo desafío para las organizaciones: la adopción de la IA está creciendo a un ritmo superior al desarrollo de las estructuras necesarias para gobernarla y controlar sus riesgos.
Desde Proofpoint, compañía especializada en ciberseguridad centrada en personas y agentes, advierten de que muchas organizaciones europeas están utilizando la Ley de IA de la Unión Europea (EU AI Act) como principal referencia para gestionar el uso de estas tecnologías. Los expertos consideran, no obstante, que cumplir con la normativa y reducir los riesgos asociados a la inteligencia artificial son cuestiones diferentes que deben abordarse de forma complementaria.
“La Ley de IA de la UE establece obligaciones legales para los sistemas de IA, lo cual es necesario, pero es solo una pieza del rompecabezas. Una organización puede cumplir con todos los requisitos y, aun así, sufrir una fuga de datos, un uso indebido por parte de personal interno o una campaña de phishing amplificada por IA”, explica Loïc Guézo, director de estrategia de ciberseguridad para el sur de Europa en Proofpoint.
Tres marcos para abordar la gobernanza de la IA
Ante este escenario, Proofpoint señala la existencia de tres marcos de referencia que pueden ayudar a las organizaciones a gestionar de forma más completa los riesgos relacionados con la inteligencia artificial: el NIST AI Risk Management Framework (AI RMF), las normas ISO y la Ley de IA de la Unión Europea.
Según la compañía, no se trata de escoger uno de estos modelos frente a los demás, sino de combinarlos para aprovechar la función específica que desempeña cada uno.
El NIST AI RMF está orientado principalmente a la gestión de riesgos y proporciona una estructura para identificar, evaluar y supervisar las amenazas asociadas a los sistemas de inteligencia artificial.
Por su parte, los estándares ISO/IEC 23894 y 42001 ponen el foco en la gobernanza y en la creación de sistemas de gestión. Su objetivo es ayudar a las organizaciones a establecer procesos internos que sean repetibles y medibles, además de fomentar una mayor cultura de responsabilidad en torno al uso de la IA.
Finalmente, la EU AI Act constituye el marco regulatorio de obligado cumplimiento dentro de su ámbito de aplicación. Su función es establecer las obligaciones legales que deben respetar las organizaciones cuando desarrollan o utilizan determinados sistemas de inteligencia artificial.
De esta forma, la combinación de los tres enfoques permitiría abordar la IA desde diferentes perspectivas: gestionar los riesgos, establecer mecanismos de gobernanza y garantizar el cumplimiento de las obligaciones legales. Para Proofpoint, esta visión integral resulta clave en un momento en el que la implantación de la inteligencia artificial continúa avanzando rápidamente en las organizaciones europeas.
“Para un grupo que opera en Europa, pero está expuesto a clientes internacionales o filiales, el enfoque más sólido sería utilizar el NIST como columna vertebral operativa, las normas ISO para la madurez de la gobernanza y la Ley de IA de la UE para las obligaciones legales específicas”, ejemplifica Loïc Guézo.
Los debates sobre la IA tienden a centrarse en la precisión, la explicabilidad y el sesgo de los modelos. Para Proofpoint, estas son preocupaciones reales, pero, en la práctica, la mayoría de los incidentes surge por cómo los equipos usan la IA, cómo se mueven los datos a través de una organización y cómo se anticipa la explotación de esas herramientas por los atacantes.
El riesgo de la IA es fundamentalmente un riesgo humano, un riesgo de datos y un riesgo de comunicaciones, no solo un riesgo tecnológico; y ahí es donde se quedan cortos los marcos de gobernanza: ningún marco, por riguroso que sea, cubre todo el panorama por sí solo.
La primera brecha, correspondiente al comportamiento humano, se da cuando los empleados comparten información confidencial con herramientas de IA, aprobando solicitudes fraudulentas o saltándose procesos aprobados, incluso contando con políticas sobre el papel.
La exposición de datos es la segunda. La IA es capaz de amplificar las debilidades existentes en la gobernanza de datos. Muchas organizaciones pueden descubrir fallas en el control de acceso después de que la IA las haya hecho explotables a gran escala.
Le siguen de cerca los ataques impulsados por IA, como el phishing, el fraude del CEO, el compromiso del correo electrónico empresarial (BEC) o la suplantación de identidad, cada vez más sofisticados y frecuentes.
La IA en la sombra cierra la lista. Si no hay visibilidad del uso real de esta tecnología, los responsables de una organización no saben qué herramientas están circulando, qué datos fluyen a través de ellas o si se están siguiendo las políticas internas.
De acuerdo con Loïc Guézo, de Proofpoint, “los líderes europeos tienen ante sí el desafío de convertir las obligaciones regulatorias en un programa de seguridad operacional que sea medible, accionable y alineado con las prioridades del negocio”.
Como recomendaciones, esta compañía plantea un plan de acción para construir en colaboración con el CISO o responsable de seguridad de la organización siguiendo estos pasos:
- Establecer un marco de referencia: combinar los requisitos de NIST, ISO y la Ley de IA de la UE en una sola estructura en vez de contar con tres programas paralelos.
- Mapear el uso de la IA: hacer un inventario de los sistemas aprobados, copilotos, agentes e integraciones de terceros, e identificar quién se responsabiliza de cada uno.
- Priorizar por impacto en el negocio: un prompt con información pública conlleva un riesgo muy diferente a uno que contiene registros de clientes o propiedad intelectual.
- Conectar cada objetivo de gobernanza con un control operativo: clasificación de datos, gestión de accesos, prevención de pérdida de datos, monitorización de uso.
- Medir la reducción del riesgo, no la actividad de cumplimiento: realizar un seguimiento de indicadores concretos, como la reducción de la compartición de datos, los incidentes de pérdida de datos relacionados con la IA o la disminución de permisos de acceso excesivos.
