El próximo 24 de abril de 2025, a las 12 p.m. EST, se llevará a cabo un seminario web que promete ofrecer luz sobre los desafíos que enfrentan las aplicaciones impulsadas por la inteligencia artificial generativa en el ámbito de la seguridad. Este evento se presenta como una oportunidad crucial para que empresas y profesionales del sector de la ciberseguridad se informen sobre las amenazas emergentes, particularmente las que surgen de los ataques de inyección de mensajes.
En la carrera por integrar la inteligencia artificial generativa en los flujos de trabajo organizacionales, los adversarios han descubierto formas innovadoras de explotar los modelos de lenguaje. Estos ataques permiten la filtración de datos sensibles y la elusión de controles de seguridad establecidos. Frente a este panorama, es fundamental que las empresas comprendan el funcionamiento de estos ataques y las estrategias que pueden implementar para proteger sus aplicaciones de IA generativa.
El seminario contará con la participación de Rob Truesdell, Chief Product Officer de Pangea, quien encabezará una exhaustiva revisión de las amenazas relacionadas con la inyección de mensajes. Durante la sesión, se abordarán puntos clave como las técnicas de inyección directa e indirecta, y se presentarán casos reales que demuestran la gravedad de estos riesgos. Además, se discutirá sobre las medidas que los proveedores de modelos de lenguaje están implementando para defenderse de estas amenazas.
Un foco especial del seminario será la distinción entre amenazas internas y externas, destacando cómo los adversarios pueden manipular los modelos de inteligencia artificial generativa tanto desde dentro como fuera de las organizaciones. Los asistentes aprenderán sobre estrategias de mitigación de riesgos, incluyendo prácticas de ingeniería y seguridad para prevenir, detectar y responder a intentos de inyección de mensajes. Asimismo, se ofrecerán pautas para evaluar la efectividad de los mecanismos de detección de ataques de inyección de mensajes.
Este evento está especialmente diseñado para líderes en seguridad, ingenieros de inteligencia artificial y equipos de producto interesados en comprender y mitigar los riesgos asociados con las aplicaciones impulsadas por IA en un entorno cada vez más adversario. Se anticipa una alta participación, reflejo del creciente interés en las implicaciones de la ciberseguridad en el desarrollo y uso de tecnologías de inteligencia artificial.
