El próximo 24 de abril de 2025 a las 12 p.m. EST, se llevará a cabo un evento online de gran importancia para el ámbito empresarial centrado en la seguridad de las aplicaciones de inteligencia artificial generativa frente a la creciente amenaza de las inyecciones de comandos. Con la rápida adopción de la inteligencia artificial por parte de las empresas, los adversarios han empezado a desarrollar estrategias para explotar los modelos de lenguaje con el fin de filtrar datos sensibles y superar las barreras de seguridad establecidas por las compañías.
En esta sesión virtual, Rob Truesdell, Chief Product Officer de Pangea, junto a otros expertos, analizará detalladamente la evolución de estas amenazas emergentes y compartirá las estrategias más avanzadas para proteger las aplicaciones basadas en IA generativa. Los participantes tendrán la oportunidad de entender en profundidad el funcionamiento de estos ataques, mediante la presentación de ejemplos concretos que mostraran tanto técnicas directas como indirectas utilizadas por los atacantes.
Un aspecto crucial del evento será el análisis de las medidas que están adoptando los proveedores de modelos de lenguaje para desarrollar defensas nativas contra los riesgos de inyección de comandos. Además, se discutirán las diferencias significativas entre las amenazas que provienen del interior y del exterior de una organización, explorando cómo los modelos de IA generativa pueden ser manipulados por adversarios desde ambos frentes.
La discusión también se centrará en las estrategias de mitigación de riesgos, proporcionando a los asistentes las mejores prácticas de ingeniería y seguridad necesarias para prevenir, identificar y responder ante intentos de inyección de comandos. Asimismo, se ofrecerán pautas para evaluar la efectividad de los mecanismos de detección de estos ataques.
Este evento está diseñado para líderes de seguridad, ingenieros de inteligencia artificial y equipos de producto que buscan profundizar en su comprensión de los riesgos asociados a la implementación de IA en un entorno empresarial cada vez más desafiante. Además, los organizadores han dispuesto que quienes no puedan asistir en vivo tengan la opción de registrarse para recibir una versión grabada de la sesión en su correo electrónico. Esta iniciativa pone de relieve la importancia de mantenerse informado y preparado frente a las nuevas amenazas que presenta la inteligencia artificial en el ámbito corporativo actual.
