OpenAI ha presentado Media Manager, una herramienta pensada para dar a los creadores de contenido más control sobre cómo se usa su trabajo al entrenar modelos como ChatGPT. La compañía busca con esto atajar futuras demandas por derechos de autor y dar más transparencia a un proceso que hasta ahora ha sido bastante opaco.
Qué permitirá hacer Media Manager
La herramienta, prevista para 2025, dejará a los creadores decidir si quieren que su trabajo entre o no en el entrenamiento de modelos de IA. Para identificar ese contenido, sea texto, imagen, audio o vídeo, Media Manager se apoyará en aprendizaje automático, y OpenAI dice que colaborará con reguladores y creadores para fijar estándares comunes de uso. Es una respuesta directa a las críticas por cómo los modelos de IA han recopilado datos de internet sin pedir permiso.
Marcas de agua y detección al 98 % para imágenes de DALL-E 3
Junto a Media Manager, OpenAI ha presentado marcas de agua resistentes a manipulaciones para las imágenes generadas con DALL-E 3, junto a un clasificador capaz de identificar ese contenido con un 98 % de precisión. Por ahora el sistema solo está disponible para investigadores y organizaciones sin ánimo de lucro, que servirán para pulir la precisión antes de un lanzamiento más amplio.
Un sitio en el comité de la C2PA
OpenAI se ha unido también al Comité Directivo de la Coalición para la Procedencia y Autenticidad de Contenidos (C2PA), donde participará en el desarrollo de estándares comunes para verificar la autenticidad del contenido digital. Junto a Microsoft, la compañía ha creado además un fondo de resiliencia social centrado en educación sobre IA, del que puedes leer más detalles en cómo Microsoft y OpenAI lanzaron el fondo de resiliencia social para mejorar la educación sobre IA.
OpenAI no es la única que está empujando este tipo de herramientas, Google siguió un camino parecido meses después con su propio sistema de verificación, que puedes ver en cómo Google lanzó SynthID Detector para verificar contenido generado por IA. El reto de fondo sigue siendo el mismo para todo el sector: que creadores y usuarios puedan distinguir qué contenido es auténtico y cuál no, sin depender de la buena fe de cada compañía.
Preguntas frecuentes
¿Qué es Media Manager?
Una herramienta de OpenAI, prevista para 2025, que permitirá a los creadores decidir si su contenido se usa o no para entrenar modelos de IA.
¿Qué tipos de contenido identifica?
Texto, imágenes, audio y vídeo, mediante modelos de aprendizaje automático entrenados para reconocer contenido con derechos de autor.
¿Con qué precisión detecta OpenAI el contenido generado con DALL-E 3?
El clasificador presentado por OpenAI identifica ese contenido con un 98 % de precisión.
¿Qué es la C2PA?
La Coalición para la Procedencia y Autenticidad de Contenidos, un comité en el que participa OpenAI para definir estándares que verifiquen la autenticidad del contenido digital.
¿Quién puede acceder ya al detector de imágenes de OpenAI?
Por ahora solo investigadores y organizaciones sin ánimo de lucro, que aportan retroalimentación para mejorar su precisión.
