Microsoft ha dado un paso al frente en la batalla contra los abusos derivados de la inteligencia artificial generativa, desarticulando una red internacional acusada de crear y distribuir miles de imágenes ofensivas de celebridades y personas anónimas. Esta acción marca el primer caso legal de la compañía para frenar la creación de contenido dañino mediante IA y subraya la creciente preocupación por los riesgos de la inteligencia artificial en la sociedad.
Una operación global para combatir el abuso de IA
Todo comenzó con la detección de accesos ilegítimos a un generador de imágenes basado en IA, utilizando credenciales robadas de clientes de Azure OpenAI Service. Los atacantes empleaban estos accesos para evadir los filtros de seguridad y producir imágenes sexualizadas, misóginas y violentas de figuras públicas y particulares. Tras detectar la vulnerabilidad, el equipo de Microsoft revocó los códigos, pero pronto descubrieron que el problema era mucho más amplio: surgieron más credenciales comprometidas en foros conocidos por difundir contenidos de odio.
La compañía escaló el incidente hasta convertirlo en una operación de seguridad global, desvelando una red denominada Storm-2139, formada por seis personas que ofrecían servicios de “hacking como servicio” para eludir salvaguardas de IA y producir contenido prohibido. Cuatro de los responsables —localizados en Irán, Reino Unido, Hong Kong y Vietnam— han sido identificados en una demanda civil en Estados Unidos, mientras que otros diez miembros utilizaban las herramientas para violar los términos de uso de Microsoft y crear imágenes nocivas.
Mejorando la seguridad y la trazabilidad de la IA
Entre las técnicas de evasión utilizadas, los hackers modificaban los prompts para sortear los filtros de contenido, sustituyendo nombres o empleando notaciones técnicas para engañar a los modelos. Microsoft ha reforzado sus barreras de seguridad a raíz de este caso, mejorando la detección de patrones maliciosos e incorporando tecnologías de trazabilidad como Content Credentials, que permite identificar el origen de las imágenes generadas y luchar contra los deepfakes y la desinformación.
La compañía también ha ayudado a los clientes afectados a reforzar sus medidas de seguridad y está colaborando con las fuerzas del orden de varios países para que los responsables enfrenten cargos penales.
Impacto social y respuesta legal
El abuso de la IA, especialmente en la creación de imágenes no consentidas, afecta de forma desproporcionada a mujeres y menores. «La era de la IA ha multiplicado la escala del abuso de imágenes», afirma Courtney Gregoire, vicepresidenta y responsable de seguridad digital en Microsoft. La empresa lleva años trabajando en la protección de víctimas, eliminando imágenes íntimas no consentidas de sus plataformas, colaborando con organismos internacionales y donando tecnología como PhotoDNA para ayudar a retirar contenido ilegal.
Microsoft subraya la necesidad de una respuesta sistémica que combine nuevas salvaguardas técnicas, leyes más estrictas y una mayor concienciación social, especialmente entre los jóvenes. «Nuestra prioridad es poner a la persona en el centro de la tecnología y asegurar que la IA se utilice para el bien», concluye Gregoire.
Hacia un ecosistema digital más seguro
El caso Storm-2139 envía un mensaje claro al sector tecnológico: los gigantes de la nube y la IA están dispuestos a actuar legal y técnicamente para proteger a los usuarios de los riesgos derivados de la inteligencia artificial. A medida que la adopción de la IA se acelera, la protección contra su uso malicioso se convierte en un reto prioritario para la industria, los gobiernos y la sociedad en su conjunto.
Microsoft ha reiterado su compromiso con la seguridad, la privacidad y la colaboración internacional para construir un entorno digital más seguro, donde la innovación vaya de la mano con la protección de los derechos y el bienestar de las personas.
Fuente: MIcrosoft
