La creciente proliferación de aplicaciones de «nudificación» que utilizan inteligencia artificial para crear imágenes falsas y sexualmente explícitas sin consentimiento está generando preocupación en toda la red. Meta, comprometida desde hace tiempo con la protección contra imágenes íntimas no consensuadas, ha intensificado sus esfuerzos para frenar la promoción de estas aplicaciones. La compañía ha implementado medidas para eliminar anuncios, páginas de Facebook y cuentas de Instagram que fomentan estos servicios y ha restringido términos de búsqueda como «nudify» y «undress» en sus plataformas.
En un paso adelante, Meta ha iniciado acciones legales contra Joy Timeline HK Limited, la entidad responsable de las aplicaciones CrushAI. Esta empresa, con sede en Hong Kong, permite la creación de imágenes con contenido sexual explícito sin el consentimiento de las personas involucradas. A pesar de repetidos intentos de sortear el sistema de revisión de anuncios de Meta, las aplicaciones de CrushAI han sido eliminadas por incumplir con las políticas de la plataforma.
La acción judicial no solo refleja la gravedad de estos abusos, sino también el compromiso de Meta en proteger a su comunidad. Meta comparte información sobre aplicaciones y sitios web infractores con otras empresas tecnológicas para que puedan tomar medidas igualmente. Desde marzo, más de 3,800 URLs han sido compartidas a través del programa Tech Coalition’s Lantern, dedicado a la seguridad en línea.
Comprendiendo que se enfrentan a un espacio adversarial, Meta ha desarrollado tecnologías avanzadas capaces de identificar anuncios que, a pesar de no mostrar desnudos explícitamente, buscan eludir la detección. Colaborando con expertos externos, han expandido la lista de términos y elementos visuales que sus sistemas deben detectar para frenar estos anuncios.
Meta también apoya y promueve la legislación efectiva para combatir el abuso de imágenes íntimas, tanto reales como generadas por IA. La empresa ha colaborado en actos legislativos como el nuevo U.S. TAKE IT DOWN Act, un esfuerzo bipartidista para abordar este abuso en Internet, y sigue respaldando medidas que empoderen a los padres a supervisar las descargas de aplicaciones de sus adolescentes, ayudando a identificar y prevenir el acceso a aplicaciones de «nudificación». La lucha contra este fenómeno sigue siendo una prioridad urgente en el entorno digital actual.
Fuente: Zona de prensa de Meta.
