Microsoft ha aprovechado la Conferencia RSA para presentar un lote de novedades de seguridad centradas en un problema muy concreto: cómo proteger las aplicaciones de IA generativa que las empresas ya están desplegando. Con Microsoft Defender y Microsoft Purview como base, la compañía dice ser la primera en ofrecer gestión de seguridad de la IA de extremo a extremo, desde el desarrollo hasta el uso diario.
Defender for Cloud vigila las apps de IA en tiempo real
Microsoft Defender for Cloud ahora identifica toda la infraestructura de IA de una organización, plugins, SDK y otros componentes, en plataformas como Azure OpenAI Service, Azure Machine Learning y Amazon Bedrock. Integrado con Azure AI Content Safety, supervisa esas aplicaciones en busca de actividad anómala y enriquece las alertas con pruebas de soporte, lo que Microsoft presenta como la primera protección CNAPP para cargas de IA en tiempo de ejecución. En la práctica, esto significa que los analistas de los SOC reciben avisos sobre ataques de jailbreak, robo de credenciales o fuga de datos confidenciales, integrados directamente en Microsoft Defender XDR para agilizar la respuesta.
Purview AI Hub pone números al riesgo
Microsoft Purview AI Hub, ahora en preview, muestra qué datos confidenciales se comparten con aplicaciones de IA, cuántos usuarios interactúan con ellas y qué nivel de riesgo implica cada caso. La herramienta ayuda también a localizar archivos sin etiquetar a los que hace referencia Copilot, para priorizar qué riesgos de uso compartido excesivo atajar primero. El AI Hub suma además alertas sobre usos que puedan saltarse políticas internas o normativas, desde discurso de odio hasta blanqueo de dinero.
Cuatro plantillas para cumplir la Ley de IA de la UE
Purview incorpora también cuatro plantillas nuevas de Compliance Manager, en preview, pensadas para evaluar el cumplimiento frente a la Ley de IA de la UE, el NIST AI RMF, ISO/IEC 23894:2023 e ISO/IEC 42001. Microsoft apuesta así por convertir el papeleo regulatorio en un checklist dentro de la misma plataforma, en lugar de dejarlo como un proceso aparte.
Una sola plataforma para los analistas de seguridad
Microsoft también estrena una plataforma unificada de operaciones de seguridad, en preview, que junta en un mismo sitio las señales de seguridad y la inteligencia sobre amenazas, con recomendaciones y sugerencias de automatización en cada etapa. La actualización llega acompañada de búsqueda global, detecciones personalizadas y reglas de automatización en Microsoft Sentinel y Defender XDR. Entre las novedades sueltas destacan Security Exposure Management, para detectar controles de seguridad insuficientes, protección nativa de tecnología operativa (OT) dentro de Defender XDR y una capacidad de interrupción de ataques ampliada, que ahora cubre también la desactivación de aplicaciones OAuth maliciosas y el bloqueo de usuarios comprometidos por credenciales filtradas.
Copilot for Security llega a más productos
Microsoft Copilot for Security se integra ahora en Purview, en nuevos plugins de partners, en Azure Firewall y en Azure Web Application Firewall, lo que da a los equipos de seguridad más contexto en tiempo real y acceso a datos de todo el entorno sin salir de las herramientas que ya usan.
«Las organizaciones que se centren en proteger la IA e inviertan en usarla para reforzar la seguridad se mantendrán como líderes en sus mercados», explica Vasu Jakkal, vicepresidenta corporativa de Seguridad, Cumplimiento, Identidad y Gestión de Microsoft. La compañía resume su apuesta en cuatro puntos: datos a gran escala e inteligencia de amenazas, una plataforma integral, IA responsable y herramientas para proteger y gobernar esa misma IA.
Microsoft no es la única que está mirando hacia la seguridad de los agentes de IA: otros proveedores también están construyendo mecanismos para aislar comportamientos peligrosos, como el interruptor de Portnox para aislar agentes de IA que se vuelven peligrosos. Si te interesa cómo ha ido evolucionando la seguridad de Copilot Studio después de este anuncio, también puedes leer cómo Microsoft corrigió meses después una vulnerabilidad crítica en Copilot Studio.
Preguntas frecuentes
¿Qué hace Microsoft Defender for Cloud con las aplicaciones de IA?
Identifica toda la infraestructura de IA de una organización y supervisa esas aplicaciones en tiempo real para detectar actividad anómala, como ataques de jailbreak o robo de credenciales.
¿Para qué sirve Microsoft Purview AI Hub?
Muestra qué datos confidenciales se comparten con aplicaciones de IA, cuántos usuarios las usan y qué nivel de riesgo implica cada caso, además de alertar sobre usos que infrinjan políticas o normativas.
¿Qué normativas cubren las nuevas plantillas de Compliance Manager?
La Ley de IA de la Unión Europea, el NIST AI RMF, ISO/IEC 23894:2023 e ISO/IEC 42001.
¿En qué productos se integra Microsoft Copilot for Security?
En Purview, en nuevos plugins de partners, en Azure Firewall y en Azure Web Application Firewall.
¿Cuándo estarán disponibles estas funciones?
La mayoría se anunciaron en versión preview durante la Conferencia RSA de 2024, antes de su disponibilidad general.
