Anthropic prepara un nuevo sistema para identificar los contenidos generados por Claude mediante señales legibles por máquinas. La compañía utilizará dos mecanismos complementarios: marcas de agua invisibles integradas directamente en el texto y metadatos de procedencia firmados para determinados archivos, siguiendo en este último caso el estándar abierto C2PA.
La iniciativa está vinculada a los compromisos adquiridos por Anthropic en torno al artículo 50(2) del Código de Buenas Prácticas sobre transparencia de contenidos generados por IA de la Unión Europea. Sin embargo, su alcance puede ir mucho más allá del cumplimiento normativo: supone introducir mecanismos de procedencia directamente en la generación de contenido.
Las claves en 30 segundos
- Claude incorporará marcas de agua imperceptibles en textos generados por modelos compatibles.
- La señal estará integrada en el propio texto y podrá mantenerse al copiarlo y pegarlo.
- Anthropic indica que podría sobrevivir también a determinadas modificaciones.
- El watermarking se implementará a nivel de modelo y no únicamente en Claude.ai.
- Imágenes y otros archivos compatibles podrán incorporar metadatos firmados mediante C2PA.
- Anthropic prepara mecanismos para que usuarios y terceros puedan detectar estas señales.
- La compañía todavía no ha publicado todos los detalles técnicos del sistema de watermarking y detección.
Una marca de agua integrada directamente en el texto
La principal novedad afecta a uno de los problemas más difíciles de resolver en inteligencia artificial generativa: determinar el origen de un texto una vez que ha salido de la plataforma que lo produjo.
Anthropic explica que, cuando un modelo compatible de Claude genere texto, introducirá una marca de agua imperceptible directamente en él.
No aparecerá una etiqueta indicando que el contenido procede de una inteligencia artificial ni será necesario mantener un archivo con metadatos adjuntos. La señal formará parte del propio texto.
Según Anthropic, el mecanismo no debería modificar el significado, la calidad ni la legibilidad de las respuestas.
La característica más interesante es su capacidad de persistencia.
Al formar parte del texto, la marca puede acompañar al contenido cuando un usuario lo copia y pega en otra aplicación. Anthropic señala además que podría sobrevivir a algunas modificaciones posteriores.
La compañía todavía no ha explicado públicamente qué transformaciones puede soportar ni cuál será el funcionamiento matemático exacto del sistema.
El watermarking estará integrado a nivel de modelo
Existe otro detalle técnico especialmente relevante.
Anthropic afirma que el watermarking se aplicará a nivel del modelo.
Esto significa que la identificación del contenido no dependerá exclusivamente de la interfaz oficial de Claude. La intención es que la marca esté presente independientemente del producto o superficie desde el que se obtenga la generación cuando se utilice un modelo compatible.
La decisión tiene implicaciones importantes para el ecosistema construido alrededor de Claude.
Empresas, desarrolladores y plataformas utilizan modelos de Anthropic mediante API para crear asistentes, herramientas de programación, sistemas empresariales y aplicaciones de generación automática de contenidos.
Integrar el mecanismo en el modelo permite extender la señal de procedencia más allá de las aplicaciones propias de Anthropic.
Anthropic también permitirá detectar las marcas
Introducir una señal únicamente tiene utilidad si posteriormente existe alguna forma fiable de comprobarla.
Anthropic asegura que está trabajando en mecanismos que permitan a usuarios y terceros detectar tanto las marcas de agua incorporadas al texto como los metadatos de procedencia asociados a otros contenidos.
Una comprobación podría determinar si un fragmento de texto o archivo contiene una marca compatible de Claude.
Sin embargo, aquí existe una diferencia importante.
Encontrar una marca puede aportar una señal de que el contenido fue procesado por Claude, pero no encontrarla no debería interpretarse automáticamente como una prueba de autoría humana.
Los sistemas de watermarking tienen limitaciones y el propio Anthropic reconoce que las señales de procedencia deben entenderse dentro de ese contexto.
Claude utilizará C2PA para imágenes y archivos
La estrategia cambia cuando hablamos de archivos.
Para determinados formatos compatibles generados por Claude, entre ellos SVG, PNG y JPG, Anthropic añadirá metadatos de procedencia firmados.
En este caso utilizará C2PA, el estándar abierto desarrollado por la Coalition for Content Provenance and Authenticity.
C2PA permite adjuntar información criptográficamente verificable relacionada con el origen y las modificaciones realizadas sobre un contenido digital.
La presencia de estos metadatos puede indicar que un archivo ha sido procesado mediante Claude y ayudar a comprobar posteriormente si ha sufrido alteraciones.
El planteamiento resulta especialmente interesante para imágenes generadas o modificadas mediante inteligencia artificial, donde determinar el origen del contenido puede resultar mucho más complicado mediante una simple inspección visual.
Watermarking y C2PA solucionan problemas diferentes
La utilización conjunta de ambas tecnologías muestra uno de los grandes desafíos de la procedencia del contenido generado por IA.
Un archivo permite almacenar metadatos adicionales. Un fragmento de texto copiado desde un chatbot y pegado en un correo electrónico, una red social o un documento pierde fácilmente esa información externa.
Por eso Anthropic plantea dos mecanismos distintos.
Texto: una marca integrada en el propio contenido.
Archivos compatibles: metadatos de procedencia firmados mediante C2PA.
La combinación busca mantener información sobre el origen del contenido incluso cuando este abandona el entorno donde fue generado.
El AI Act europeo acelera la identificación del contenido sintético
El movimiento de Anthropic también debe entenderse dentro del nuevo marco regulatorio europeo.
La compañía ha firmado el Código de Buenas Prácticas relacionado con el artículo 50(2) del Reglamento Europeo de Inteligencia Artificial, centrado en las obligaciones de transparencia sobre determinados contenidos generados o manipulados mediante IA.
La regulación europea está empujando a los proveedores de modelos hacia sistemas donde los contenidos sintéticos puedan identificarse mediante mecanismos técnicamente detectables e interoperables.
Anthropic pretende que sus sistemas de marcado ayuden también a los desarrolladores que construyen productos utilizando Claude.
No obstante, la compañía advierte de que quienes integren sus modelos deberán analizar independientemente las obligaciones del AI Act aplicables a sus propios productos y servicios.
La gran incógnita: cuánto resistirá la marca de agua
La eficacia real del sistema dependerá de detalles técnicos que Anthropic todavía no ha publicado.
Una marca que sobreviva a copiar y pegar resulta relativamente sencilla de transportar. El desafío aparece cuando el contenido empieza a transformarse.
¿Qué ocurre si se reescribe un párrafo? ¿Y si se traduce? ¿Qué sucede al resumirlo con otro modelo? ¿Cuánto texto es necesario para detectar la señal con suficiente confianza?
Estas cuestiones determinarán hasta qué punto el watermarking puede convertirse en una herramienta práctica para identificar contenido generado mediante Claude.
Anthropic ha anunciado que publicará documentación técnica adicional sobre sus sistemas de marcado y detección.
La IA generativa entra en la era de la procedencia
Durante años se han desarrollado herramientas que intentan detectar textos creados mediante inteligencia artificial analizando estadísticamente el resultado final. Estos sistemas presentan importantes limitaciones y pueden producir falsos positivos.
El enfoque de procedencia es diferente.
En lugar de intentar adivinar posteriormente si una máquina creó un contenido, el propio sistema generativo introduce una señal en el momento de producirlo.
C2PA lleva esta filosofía al terreno de los archivos mediante credenciales y firmas verificables. El watermarking de texto pretende trasladar una idea similar a un formato mucho más difícil de rastrear.
Si este tipo de mecanismos termina extendiéndose entre los grandes proveedores de modelos, el origen de un contenido podría convertirse en una nueva capa de información de Internet.
La cuestión ya no sería únicamente saber qué puede generar un modelo de inteligencia artificial, sino también disponer de mecanismos técnicos para conocer de dónde salió ese contenido y qué ocurrió con él después.
