En el marco de la conferencia anual Black Hat que se celebra hoy en Las Vegas, la Open Secure AI Alliance, que ya cuenta con más de 120 organizaciones, está desarrollando nuevas pautas para fortalecer la ciberseguridad de la inteligencia artificial (IA) agentica. La Linux Foundation ha compartido una Solicitud de Comentarios sobre el Shared AI Findings Exchange (SAFE), un conjunto de directrices diseñado para convertir los incidentes de ciberseguridad agentica en protección compartida para todo el ecosistema.
Estas nuevas pautas SAFE están siendo redactadas por un grupo de trabajo de la Open Secure AI Alliance, con la colaboración de empresas destacadas como NVIDIA, Cisco, CrowdStrike, Hugging Face y Red Hat. El objetivo es recolectar y analizar confidencialmente los incidentes de IA, identificar fallos de control recurrentes y publicar recomendaciones operativas basadas en evidencia para reducir el riesgo sistémico.
La ciberseguridad es una carrera sin línea de meta, ya que cada cambio tecnológico importante crea nuevas superficies de ataque potencial. Los defensores deben actuar a la velocidad de los agentes para proteger rápidamente la infraestructura y la propiedad intelectual. Cuando los ecosistemas confiables comparten información sobre amenazas de manera abierta, la defensa colectiva se multiplica en eficacia.
El marco SAFE se suma a las contribuciones tecnológicas que los miembros de la alianza están haciendo para construir y compartir herramientas abiertas e inspeccionables en toda la pila de seguridad de la IA. La seguridad siempre ha sido más fuerte en capas y en la voluntad de la comunidad de compartir lo que sabe. Los problemas más difíciles se resuelven cuando los defensores aprenden unos de otros de manera abierta y rápida.
NVIDIA está contribuyendo en toda la pila, comenzando con el NVIDIA Labs Object-Oriented Agent (NOOA), un arnés de investigación que facilita la prueba, trazado y auditoría del comportamiento de los agentes. Por su parte, el runtime NVIDIA OpenShell restringe lo que un agente puede ver y hacer, imponiendo controles de seguridad y privacidad al nivel del agente.
Los miembros de la alianza también están ampliando las herramientas para el desarrollo del ecosistema abierto. Empresas como Okta y Palo Alto Networks están avanzando en el desarrollo de protocolos de identidad y acceso, mientras que Red Hat ha lanzado un nuevo proyecto de código abierto llamado asago para automatizar la seguridad y el gobierno en la producción de políticas.
En el sector de modelos, empresas como Cisco y CrowdStrike están desarrollando modelos de seguridad especializados, como DefenseClaw y el modelo de razonamiento Nemotron Nano de NVIDIA, para ayudar a localizar vulnerabilidades de código y mejorar la eficiencia investigativa de agentes.
La Open Secure AI Alliance invita a todas las empresas interesadas a unirse y contribuir con más herramientas y tecnologías para mantener la seguridad y la evolución del ecosistema de IA.
Fuente: Zona de blogs y prensa de Nvidia
