Amazon, Google, Meta, Microsoft y OpenAI se han comprometido con un conjunto de principios llamado «Seguridad por Diseño», una iniciativa impulsada por Thorn (organización especializada en protección infantil) y All Tech is Human (entidad centrada en la ética de la IA). El objetivo es frenar la explotación infantil generada o amplificada con herramientas de inteligencia artificial.
Qué incluyen los principios de Seguridad por Diseño
El acuerdo fija tres compromisos concretos para las empresas firmantes: que los datos usados para entrenar modelos generativos estén libres de material de abuso sexual infantil, que se filtre y elimine contenido dañino antes de publicarlo, y que ningún modelo salga al mercado sin haber pasado antes por una evaluación específica de riesgos para menores. No son medidas nuevas para el sector, pero es la primera vez que un grupo tan amplio de compañías las adopta como estándar común.
Desde Thorn lo plantean como un problema de escala, cuantas más compañías se sumen a estos compromisos, mejor se puede garantizar que la seguridad quede integrada en el desarrollo de la IA desde el principio y no como un parche posterior. Es un enfoque que ya se ha visto en otros frentes del sector, como los cambios que OpenAI ha ido introduciendo para hacer ChatGPT más seguro entre adolescentes.
Por qué llega ahora este compromiso
Las cifras que manejan las organizaciones impulsoras explican la urgencia. En EE.UU. se reportaron más de 104 millones de casos sospechosos de abuso infantil el año pasado, y entre ellos ya aparecen unas 4.700 imágenes o vídeos de menores generados con IA. Son cifras que no existían hace apenas dos años, cuando las herramientas de generación de imágen y vídeo con IA todavía eran incipientes.
El fenómeno no es exclusivo de Estados Unidos. En Europa, la respuesta regulatoria también se ha ido endureciendo, con la Unión Europea ajustando la Ley de IA para reforzar las sanciones contra el contenido íntimo generado sin consentimiento, una categoría que incluye buena parte del material de abuso infantil creado con estas herramientas.
Los límites del compromiso
Firmar unos principios no equivale a aplicarlos, y ahí está el punto débil de este tipo de acuerdos voluntarios. Thorn y All Tech is Human no tienen capacidad sancionadora, así que el cumplimiento depende de auditorías internas de cada compañía y de la presión pública si algo falla. Tampoco hay un calendario cerrado de implementación ni métricas compartidas que permitan comparar el progreso real entre Amazon, Google, Meta, Microsoft y OpenAI.
Aun con esas limitaciones, marca un precedente, porque son cinco de las compañías que más modelos generativos ponen en manos de usuarios cada día, y su adhesión conjunta pone presión sobre el resto del sector para que haga lo mismo.
Preguntas frecuentes
¿Qué empresas han firmado los principios de Seguridad por Diseño?
Amazon, Google, Meta, Microsoft y OpenAI, coordinadas por Thorn y All Tech is Human.
¿Qué obliga exactamente este compromiso?
A entrenar modelos con datos libres de material de abuso infantil, filtrar contenido dañino y evaluar riesgos para menores antes de lanzar cualquier modelo generativo.
¿Cuántos casos de abuso infantil generado con IA se han detectado?
Las organizaciones impulsoras citan unas 4.700 imágenes o vídeos de menores generados con IA entre los más de 104 millones de casos sospechosos reportados en EE.UU. el año pasado.
¿Es un acuerdo vinculante?
No. Es un compromiso voluntario sin sanciones formales, apoyado en auditorías internas y en la presión pública sobre las compañías firmantes.
