NVIDIA ha dado a conocer su nueva Plataforma de Seguridad de Agentes Abiertos de NVIDIA, un sistema de software abierto y diseño de sistema de referencia destinado a fortalecer la seguridad de la inteligencia artificial desde la prueba de agentes hasta su implementación. Esta iniciativa busca proporcionar gobernanza completa y control sobre el conjunto de tecnologías de software, hardware, computación y sistemas robóticos que operan a los agentes.
La plataforma, compuesta por el software de código abierto NVIDIA OpenShell y el sistema de referencia NVIDIA Sentry, permite un control de la pila completa en las diversas infraestructuras utilizadas por los agentes de inteligencia artificial. El software OpenShell ofrece un entorno de ejecución seguro que traza todas las acciones y aplica políticas mientras los agentes funcionan en las CPUs NVIDIA Vera. OpenShell, al ser de código abierto, puede extenderse para trabajar con plataformas de computación de terceros, incluidas las de Arm e Intel.
Sentry, por su parte, actúa como un vigilante fuera de banda que se ejecuta en las DPUs NVIDIA BlueField-4, monitorizando continuamente el comportamiento de los agentes. Este sistema es capaz de poner en cuarentena a aquellos agentes que intenten operar fuera de los límites establecidos, reaccionando en cuestión de milisegundos.
En este contexto, líderes de la industria de la inteligencia artificial se han unido a NVIDIA para fortalecer la seguridad de los agentes de inteligencia artificial en todas las industrias y en todo el conjunto de infraestructura, incluido el software y los modelos robóticos. Entre los colaboradores se encuentran empresas de renombre como Anthropic, Cisco, CrowdStrike, Dell Technologies, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, entre otros.
La urgencia de proporcionar herramientas personalizables y abiertas surge tras una serie de incidentes de seguridad que evidenciaron la necesidad de mayor control sobre los agentes operativos. La respuesta de NVIDIA no se hizo esperar. «El extraordinario potencial de la inteligencia artificial para la sociedad solo se realizará si resolvemos su seguridad», afirmó Jensen Huang, fundador y CEO de NVIDIA.
La nueva plataforma busca, además, fomentar la cooperación internacional, compartiendo mejores prácticas y alineando métodos de evaluación para elevar el estándar global de seguridad en inteligencia artificial.
Con la disponibilidad de OpenShell y Sentry, las organizaciones tienen la posibilidad de desplegar estos elementos conforme a sus necesidades específicas, asegurando una barrera segura para los agentes que trabajan en diferentes modelos y plataformas. Gracias a la colaboración con empresas de diversos sectores, la Plataforma de Seguridad de Agentes Abiertos de NVIDIA se posiciona como una herramienta esencial para el crecimiento seguro de la inteligencia artificial en el mundo.
El software, junto con las habilidades relacionadas, está disponible a través de los recursos para desarrolladores de NVIDIA y Github, contribuyendo así al objetivo de la Alianza Abierta de IA Segura de fortalecer la seguridad de los agentes de IA mediante proyectos y herramientas de investigación abiertas.
Fuente: Zona de blogs y prensa de Nvidia
