Genetec, proveedor de soluciones de seguridad electrónica, ha fijado postura sobre un problema que persigue a todo el sector, cómo usar IA en videovigilancia y control de accesos sin que los errores del modelo acaben teniendo consecuencias reales. La compañía incluso evita el término «inteligencia artificial» en sus comunicaciones internas y prefiere hablar de machine learning o «inteligencia automática».
Los modelos de lenguaje de gran tamaño, como el popular ChatGPT de OpenAI, han cambiado la forma en que interactuamos con la tecnología, y ya se usan para responder preguntas, redactar textos o apoyar decisiones. Rafael Martín Enríquez, Sales Director Southern Europe de Genetec, lo resume así: «la IA tiene un potencial increíble para mejorar la seguridad electrónica, pero también conlleva riesgos que no debemos subestimar. Es crucial comprender sus limitaciones y sus posibles peligros en el contexto de la seguridad, donde siempre el hombre debe tener la última palabra».
Los riesgos que preocupan a Genetec
El primer problema es de precisión, porque un LLM puede generar respuestas convincentes que en realidad no están basadas en datos reales, lo que en el sector se conoce como alucinación. En una aplicación de seguridad, ese tipo de fallo no es un detalle menor.
El segundo es la privacidad, ya que estos modelos aprenden de los datos con los que se entrenan y pueden acabar filtrando información sensible si no se gestionan bien. Y el tercero es el uso malicioso, porque la misma IA que ayuda a detectar una vulnerabilidad puede usarse para explotarla o para automatizar un ataque.
Tres pilares para una IA responsable
Genetec estructura su enfoque en tres puntos concretos:
- Privacidad y gobernanza de datos: la compañía usa conjuntos de datos que cumplen la normativa de protección de datos y los anonimiza siempre que puede.
- Transparencia y equidad: trabaja para reducir los sesgos de sus modelos y hacer que sus decisiones sean explicables para el usuario final.
- Decisiones tomadas por personas: los modelos no toman decisiones críticas por su cuenta, siempre hay una persona involucrada en la decisión final de seguridad.
En la práctica, Genetec ya aplica IA para acelerar investigaciones, reforzar la ciberseguridad de sus sistemas y automatizar tareas como el conteo de personas, siempre dentro de lo que la compañía llama una plataforma de seguridad abierta, pensada para que cada cliente elija las aplicaciones de IA que mejor encajan con sus necesidades en lugar de depender de un único proveedor cerrado.
El planteamiento de Genetec encaja con un debate más amplio que ya ocupa a reguladores y organismos internacionales. La ONU lleva tiempo reclamando reglas claras para la IA, y en España el Congreso ya tramita su propia ley de IA para trasladar el Reglamento Europeo a la normativa nacional. La postura de Genetec, con el ser humano siempre en la decisión final, va en la misma dirección que marcan esas normas.
Preguntas frecuentes
¿Por qué Genetec evita el término «inteligencia artificial»?
Porque prefiere dejar claro que sus sistemas se basan en machine learning con supervisión humana, y no en una IA autónoma que decide por su cuenta en situaciones de seguridad.
¿Qué son las alucinaciones de un modelo de IA?
Respuestas que suenan convincentes pero no están basadas en datos reales. En aplicaciones de seguridad electrónica, ese tipo de error puede tener consecuencias serias si nadie lo verifica.
¿Cuáles son los tres pilares de la IA responsable de Genetec?
Privacidad y gobernanza de datos, transparencia y equidad en los modelos, y decisiones finales siempre tomadas por personas, no por la IA.
¿Cómo usa Genetec la IA en sus soluciones de seguridad?
Para acelerar investigaciones, reforzar la ciberseguridad de sus sistemas y automatizar tareas como el conteo de personas, dentro de una plataforma abierta que deja elegir al cliente qué aplicaciones de IA usar.
