Microsoft ha resumido en siete lecciones lo que ha aprendido tras un año desplegando IA generativa a gran escala en productos como Copilot, capaz de resumir reuniones, redactar propuestas comerciales o sugerir menús a partir de lo que hay en la nevera. El repaso lo firman Natasha Crampton, directora responsable de IA en la compañía, y Sarah Bird, directora de productos de IA responsable, y coincide con la publicación del primer Informe Anual de Transparencia en IA Responsable de Microsoft.
Junto al informe, Microsoft lanzó nuevas herramientas en Azure AI para que clientes empresariales y desarrolladores puedan vigilar la calidad de sus sistemas y protegerse de usos malintencionados. Estas son las siete conclusiones que destacan Crampton y Bird.
1. La responsabilidad no es cosa de un solo equipo
Microsoft exige a todo empleado que desarrolle aplicaciones de IA seguir un estándar interno que obliga a evaluar el impacto potencial, gestionar fallos y dar a los usuarios información suficiente para decidir con criterio. A finales del año pasado, el 99% de la plantilla había completado la formación en IA responsable. Crampton lo resume así: «No se trata de una lista de verificación que se marque antes de lanzar un producto, sino de integrar la responsabilidad desde el inicio».
2. Adaptarse rápido, con los clientes como brújula
El desarrollo de IA cambia sobre la marcha, y las pruebas piloto con clientes reales son la principal fuente de mejora. Microsoft lo aplicó al introducir tres estilos conversacionales en Copilot para Bing (creativo, equilibrado y preciso) tras detectar que un solo tono no encajaba con todos los usos. «Necesitamos un ciclo de experimentación con los clientes, aprendemos y adaptamos el producto en consecuencia», explica Bird.
3. Centralizar los procesos para ir más rápido
Con la llegada de Copilot, Microsoft montó un sistema centralizado para que todos los productos cumplieran el mismo estándar de IA responsable, apoyado en la pila tecnológica común de Azure AI. Un equipo dedicado revisa y aprueba cada lanzamiento, lo que ha acelerado la detección de vulnerabilidades y ha permitido compartir procedimientos entre equipos en lugar de que cada uno reinvente su propio proceso.
4. Dejar claro qué es real y qué ha generado la IA
Cada vez cuesta más distinguir una imagen, un vídeo o un audio real de uno generado. Microsoft se sumó a otras 19 empresas en un conjunto de compromisos voluntarios para frenar el uso engañoso de la IA en las elecciones de 2024, y desarrolló «Credenciales de Contenido» para verificar el origen de una pieza audiovisual. Su laboratorio AI for Good se dedica a identificar deepfakes, rastrear a quienes los difunden y analizar sus tácticas. «Estos problemas no son solo un desafío para las empresas de tecnología, sino también un desafío social más amplio», apunta Crampton.
5. Poner las herramientas de seguridad en manos del cliente
Azure AI Content Safety filtra contenido no deseado, como violencia o material sexual, antes de que llegue al usuario final. A eso se suman funciones nuevas en Azure AI Studio para evaluar la seguridad de un modelo, detectar vulnerabilidades, monitorizar su comportamiento y avisar cuando genera información falsa. «Queremos que sea fácil estar seguro por defecto», dice Bird. La propuesta conecta con lo que persigue Red Hat con su proyecto asago, pensado para gobernar modelos de IA ya en producción.
6. Contar con que alguien intentará romper el sistema
Los «jailbreaks» buscan sortear las medidas de seguridad de un modelo de lenguaje. Microsoft ha entrenado modelos que reconocen patrones de este tipo de ataques para detectarlos y bloquearlos antes de que causen daño. Crampton lo describe como parte del proceso: «Son usos no previstos, pero es lo que ocurre cuando se empuja la tecnología al límite».
7. Explicar también lo que la IA no sabe hacer
La IA facilita muchas tareas, pero se equivoca. Microsoft acompaña sus productos con enlaces a las fuentes citadas y notas de transparencia que detallan capacidades, límites y usos responsables de cada sistema. Bird insiste en la humildad como punto de partida: «Tenemos que ser humildes al decir que no sabemos cómo la gente usará esta tecnología, por eso necesitamos escuchar a los usuarios».
El repaso llega en un momento en que otras compañías del sector empujan en la misma dirección: NVIDIA lidera junto a más de 50 empresas la Open Secure AI Alliance para proteger la IA de código abierto, y consultoras como Axazure están montando centros de excelencia para ayudar a otras empresas a integrar la IA con garantías. La gobernanza de la IA generativa sigue siendo un trabajo en marcha, y estas siete lecciones marcan por dónde va la industria.
Preguntas frecuentes
¿Qué es el Informe Anual de Transparencia en IA Responsable de Microsoft?
Es el primer documento público en el que la compañía detalla cómo aplica sus principios de IA responsable en el desarrollo y despliegue de productos como Copilot y los servicios de Azure AI.
¿Qué son las Credenciales de Contenido?
Un sistema desarrollado por Microsoft para verificar si una imagen, un vídeo o un audio han sido generados o modificados por IA, útil frente a la desinformación y los deepfakes.
¿Qué es un «jailbreak» en un modelo de IA?
Una técnica con la que un usuario intenta sortear las restricciones de seguridad de un modelo de lenguaje para que genere contenido que normalmente tiene bloqueado.
¿Qué hace Azure AI Content Safety?
Filtra contenido no deseado (violencia, material sexual, información falsa) antes de que llegue al usuario final, y forma parte del conjunto de herramientas que Microsoft ofrece a sus clientes empresariales.
Fuente: Microsoft
