OpenAI ha revelado su innovadora herramienta Media Manager, diseñada para dar a los creadores de contenido un mayor control sobre el uso de su trabajo en la formación de modelos de inteligencia artificial, como ChatGPT. Este desarrollo busca mitigar futuras demandas por derechos de autor y ofrecer más transparencia en la creación y uso de contenido generado por IA.
- Media Manager, que se lanzará en 2025, permitirá a los creadores de contenido decidir si desean incluir o excluir su trabajo de los procesos de formación de modelos de IA, brindando un mayor control sobre el uso de su propiedad intelectual.
- La herramienta se basará en el aprendizaje automático para identificar contenido con derechos de autor en varios formatos, desde texto hasta imágenes, audio y video, colaborando con reguladores y creadores para definir estándares de uso en el entrenamiento de modelos de IA.
- Este desarrollo responde a las crecientes críticas sobre la recolección indiscriminada de datos de la web por parte de modelos de IA como ChatGPT, ofreciendo protección adicional contra el uso no autorizado de datos.
Además, OpenAI ha presentado un conjunto de herramientas avanzadas para detectar contenido generado por IA, incluyendo marcas de agua resistentes a alteraciones para las imágenes de DALL-E 3 y un sistema de clasificación capaz de identificar el contenido generado por este modelo con una precisión del 98%. El sistema se encuentra disponible para investigadores y organizaciones sin fines de lucro, a fin de obtener retroalimentación y mejorar su precisión.
OpenAI también se ha sumado al Comité Directivo de la Coalición para la Procedencia y Autenticidad de Contenidos (C2PA) para contribuir al desarrollo de estándares comunes que verifiquen la autenticidad del contenido digital. Junto con Microsoft, han creado un fondo de resiliencia social para apoyar la educación en inteligencia artificial y facilitar la adopción de estos estándares.
La implementación de marcas de agua y sistemas de clasificación refuerza el compromiso de OpenAI con la transparencia y autenticidad. A través de esta colaboración, buscan avanzar hacia un entorno digital más seguro y auténtico para creadores y consumidores, marcando un nuevo estándar para la industria en el uso ético de la IA.
