El Ómnibus Digital de la Unión Europea sobre inteligencia artificial ha ampliado los plazos para cumplir algunos de los requisitos más exigentes de la Ley de IA. No obstante, esta prórroga no exime a las empresas de afrontar los desafíos de gobernanza necesarios para garantizar el cumplimiento de la normativa.
Los requisitos aplicables a los sistemas de inteligencia artificial de alto riesgo utilizados en sectores como el empleo, la educación, las infraestructuras críticas y el acceso a servicios esenciales entrarán en vigor el 2 de diciembre de 2027. Por su parte, los sistemas de alto riesgo integrados en productos sujetos a regulación, como la maquinaria y los dispositivos médicos, dispondrán de plazo hasta el 2 de agosto de 2028.
Francisco Molero, CEO de Confluent para España y Portugal, valora positivamente esta ampliación de los plazos. Según explica, las empresas llevan tiempo trabajando en su adaptación a la Ley de IA, aunque las normas técnicas, las directrices y los mecanismos de supervisión y aplicación han continuado evolucionando.
A su juicio, el tiempo adicional permitirá a las organizaciones avanzar en los preparativos necesarios para cumplir con la regulación, en lugar de tener que apresurarse para alcanzar una fecha límite para la que muchas todavía no estaban preparadas.
Cuatro prioridades para reforzar la gobernanza de la IA
Uno de los principales retos para las empresas es poder explicar cómo se ha llegado a una decisión tomada con ayuda de la inteligencia artificial. Identificar el modelo que ha generado un resultado no basta para saber qué datos utilizó, si estaban actualizados o qué ocurrió después de emitir una recomendación.
Ante este desafío, Confluent identifica cuatro prioridades que las organizaciones pueden abordar para reforzar la gobernanza de sus sistemas de IA y avanzar en el cumplimiento de la normativa.
Prioridad 1. Identificar dónde se utiliza la IA
La inteligencia artificial no siempre se incorpora mediante herramientas específicas. También puede estar integrada en plataformas de selección de personal, sistemas de detección de fraude, servicios de atención al cliente o aplicaciones de terceros. Además, una actualización del proveedor puede introducir cambios relevantes sin que la empresa los identifique como un nuevo despliegue. Por ello, el primer paso es elaborar un inventario que permita localizar estos sistemas y determinar en qué procesos influyen en las decisiones o generan recomendaciones.
Prioridad 2. Rastrear los datos que sustentan cada decisión
Saber qué resultado ha generado un sistema de IA no basta para explicar cómo ha llegado a él. Las empresas necesitan conocer qué información utilizó, si estaba actualizada en ese momento y qué factores influyeron en la decisión. Esta trazabilidad cobra especial importancia en ámbitos como la concesión de créditos, la evaluación de riesgos o la selección de personal, donde es fundamental poder reconstruir el proceso y justificar sus resultados.
Prioridad 3. Supervisar los sistemas una vez que entran en producción
El control de la IA no termina con las pruebas previas a su puesta en marcha. Una vez desplegados, los sistemas pueden presentar desviaciones o comportamientos inesperados. Las empresas necesitan mecanismos de supervisión que permitan detectar estos cambios, registrar los eventos relevantes y analizar posibles incidentes. En los sistemas de IA de alto riesgo, la Ley de IA contempla requisitos como el registro de actividad y la supervisión humana.
Prioridad 4. Integrar la gobernanza de la IA en los controles existentes
Crear estructuras específicas para la gobernanza de la IA puede duplicar procesos y dificultar su coordinación con los controles que ya existen en materia de datos, seguridad, compras y riesgo operativo. Confluent apuesta por un enfoque integrado que conecte estas áreas y evite que la supervisión de la IA funcione de forma aislada.
Un ejemplo es Siemens, que utiliza una plataforma central de data streaming para conectar sus sistemas operativos y aplicaciones empresariales con sus almacenes de datos y plataformas de IA y aprendizaje automático. Así, sus equipos pueden acceder a los datos y gestionarlos de forma homogénea en una organización compleja.
Prepararse ahora para demostrar el cumplimiento
Con los estándares todavía en desarrollo y algunos aspectos de la aplicación de la Ley de IA pendientes de concretar, las empresas tienen margen para prepararse, pero deberán demostrar que sus sistemas funcionan conforme a los requisitos cuando lleguen las fechas límite.
“Esas pruebas hay que empezar a construirlas ahora”, concluye Francisco Molero, CEO de Confluent para España y Portugal.
