El generador de imágenes con IA de Meta tiene problemas para representar parejas y amistades interraciales, sobre todo cuando incluyen a personas asiáticas y caucásicas. Usuarios de Instagram han probado decenas de combinaciones de prompts sin conseguir que la herramienta muestre con naturalidad ese tipo de vínculos, según recoge The Verge.
Un problema conocido en la generación de imágenes con IA
Las relaciones y amistades interraciales son parte normal de la vida cotidiana, pero el modelo de Meta no las representa bien. En vez de generar la diversidad que se le pide, tiende a homogeneizar los rasgos raciales o a representarlos de forma incorrecta, un fallo que no es exclusivo de Meta pero que aquí resulta particularmente persistente. Otros generadores como el de Gemini de Google han avanzado en consistencia de personajes, lo que deja más en evidencia las carencias de la herramienta de Meta en este terreno.
Estereotipos que se cuelan sin que nadie los pida
La herramienta tira de estereotipos por su cuenta. Con personas del sur de Asia, añade ropa culturalmente marcada sin que el prompt lo pida, y termina homogeneizando las identidades asiáticas hacia rasgos típicos del este asiático. Incluso cuando logra generar una pareja interracial de forma correcta, hay una preferencia clara por mostrar a las mujeres asiáticas con piel clara y aspecto juvenil, un sesgo que se repite lo bastante como para no ser casualidad.
Por qué importa más allá de una imagen mal generada
El fallo no se queda en lo estético. Si un modelo entrenado con millones de imágenes no consigue representar con naturalidad algo tan común como una pareja mixta, el problema está en los datos de entrenamiento o en los filtros aplicados después, y ambos casos apuntan a un mismo punto ciego: quién decide qué combinaciones son «normales» para el modelo. La percepción del usuario español sobre la IA ya reflejaba desconfianza en varios aspectos de estas herramientas, y este tipo de casos alimenta esa desconfianza en lugar de reducirla. Meta no ha detallado públicamente qué correcciones planea aplicar a su modelo de generación de imágenes.
Preguntas frecuentes
¿Qué generador de imágenes de Meta tiene este problema?
El generador de imágenes con IA integrado en Instagram, usado para crear stickers y contenido visual dentro de la app.
¿Qué tipo de sesgo muestra el modelo?
Dificultad para generar parejas y amistades interraciales, especialmente asiático-caucásicas, y una tendencia a añadir estereotipos culturales o a homogeneizar rasgos asiáticos.
¿Es un problema exclusivo de Meta?
No. El sesgo racial en generadores de imágenes con IA se ha documentado también en otras herramientas, aunque en este caso resulta especialmente persistente pese a múltiples intentos de prompt.
vía: The Verge
