Meta anunció el 6 de febrero de 2024 que empezará a etiquetar como «Info de IA» las imágenes generadas con herramientas de terceros (OpenAI, Google, Microsoft, Adobe, Midjourney y Shutterstock) que se publiquen en Facebook, Instagram y Threads. Hasta ahora la compañía solo marcaba el contenido creado con su propio generador de imágenes. La medida llega en un año con elecciones en Estados Unidos y en más de 50 países, y busca frenar la confusión entre contenido real y contenido sintético antes de que llegue a las urnas.
Cómo detecta Meta qué imagen es de IA
El sistema no analiza la imagen a ojo, lee marcadores invisibles incrustados en el archivo siguiendo los estándares técnicos C2PA e IPTC, un código de procedencia que las principales herramientas de generación de imágenes ya empiezan a incluir de serie. Es la misma lógica que sigue SynthID, la marca de agua invisible de Google DeepMind que te contamos en su momento: el archivo lleva una firma que el humano no ve pero que la plataforma sí puede leer al subir el contenido.
Nick Clegg, presidente de Asuntos Globales de Meta, lo presentó como un aprendizaje en marcha: la compañía quiere ver cómo se comparte el contenido de IA y cómo reaccionan los usuarios antes de decidir los siguientes pasos. Meta ya ponía el sello «Imaginado con IA» en las imágenes creadas con su propio generador, pero ampliar esa etiqueta a herramientas externas obliga a coordinarse con cada proveedor para que incluya el marcador correcto.
Lo que queda fuera: vídeo, audio y texto
El agujero grande está en el resto de formatos. Las herramientas para marcar vídeo y audio generados por IA todavía están en desarrollo, así que, mientras tanto, Meta pide a los propios usuarios que etiqueten su contenido audiovisual manipulado, con sanciones no especificadas si no lo hacen. Con el texto la cosa está peor: no existe todavía una manera fiable de detectar si un párrafo lo ha escrito una persona o un modelo de lenguaje, así que Meta ni siquiera lo intenta por ahora.
Tampoco cubre el contenido generado con herramientas de código abierto que no incrustan marcadores C2PA, la vía más sencilla para saltarse el sistema por completo. El propio Índice de Transparencia en Modelos Fundacionales de Stanford, MIT y Princeton ya avisaba de este tipo de vacíos al evaluar cuánta información dan realmente los desarrolladores de IA sobre sus modelos.
Un movimiento que Meta ha ido ampliando
El etiquetado de 2024 fue el primer paso de una estrategia que la compañía ha seguido reforzando desde entonces. Dos años después, Meta redujo el peso de los revisores humanos externos y pasó más trabajo de moderación a sus propios modelos, una línea directa desde aquella primera decisión de dejar que el sistema, y no una persona, decida qué contenido lleva la etiqueta de IA.
Preguntas frecuentes
¿Qué herramientas de IA cubre el etiquetado de Meta?
Imágenes generadas con OpenAI, Google, Microsoft, Adobe, Midjourney y Shutterstock, además del propio generador de imágenes de Meta.
¿Cómo sabe Meta que una imagen es de IA?
Lee marcadores invisibles incrustados en el archivo bajo los estándares C2PA e IPTC, un código de procedencia que incluyen las principales herramientas de generación de imágenes.
¿Etiqueta también vídeo, audio o texto generados por IA?
Todavía no de forma automática. Las herramientas para vídeo y audio están en desarrollo, y para texto no existe un método fiable, así que Meta pide a los usuarios que etiqueten ellos mismos ese contenido manipulado.
¿Se puede saltar el etiquetado con herramientas de código abierto?
Sí. Si la herramienta no incrusta marcadores C2PA o IPTC, Meta no tiene forma de detectar que la imagen es sintética, uno de los puntos más criticados de la medida.
