PROTECCIÓN DATA

BLOG

El conocimiento es poder (Francis Bacon)

Blog
Compartir Facebook Twitter Linkedin
JAVIER CASAL TAVASCI

Marca de agua de Anthropic para textos

El artículo 50.2 del Reglamento de Inteligencia Artificial (RIA) dispone:

«Los proveedores de sistemas de IA, entre los que se incluyen los sistemas de IA de uso general, que generen contenido sintético de audio, imagen, vídeo o texto, velarán por que los resultados de salida del sistema de IA estén marcados en un formato legible por máquina y que sea posible detectar que han sido generados o manipulados de manera artificial. Los proveedores velarán por que sus soluciones técnicas sean eficaces, interoperables, sólidas y fiables en la medida en que sea técnicamente viable, teniendo en cuenta las particularidades y limitaciones de los diversos tipos de contenido, los costes de aplicación y el estado actual de la técnica generalmente reconocido, según se refleje en las normas técnicas pertinentes. Esta obligación no se aplicará en la medida en que los sistemas de IA desempeñen una función de apoyo a la edición estándar o no alteren sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica, o cuando estén autorizados por ley para detectar, prevenir, investigar o enjuiciar delitos».

La medida es exigible a partir del 2 de agosto de 2026 para todos los proveedores de IA. Los sistemas ya existentes, es decir, puestos en el mercado antes del 2 de agosto de 2026, tienen hasta el 2 de diciembre de 2026 para implementar la medida.

Marca de agua de Anthropic

Anthropic ha publicado en su sitio web cómo prevé implementar su marca de agua en textos. Dice así:

«Los modelos de lenguaje complejos, como Claude, funcionan generando una palabra cada vez. Cada vez que el modelo decide cuál será la siguiente palabra, elige entre una lista de posibles candidatas y selecciona finalmente la más lógica o probable según el texto anterior. Por ejemplo, en la oración “Hoy hacía frío y…”, es muy improbable que la siguiente palabra sea “azucarado”, pero es bastante probable que sea “nublado” o “gris”. En la mayoría de los casos, al lector no le importa demasiado cuál de estas dos últimas palabras elija el modelo, ya que el significado de la oración es prácticamente el mismo. En esos casos, la elección se decide mediante un número aleatorio.

El marcado de agua utiliza decisiones de bajo riesgo como estas –que se repiten muchas veces en un texto generado– para dejar un patrón en las respuestas de Claude. Este patrón es indetectable para el lector, pero detectable para quien posea la clave que lo codifica. Al utilizar el marcado de agua, las decisiones siguen siendo aleatorias, pero la fuente de aleatoriedad es diferente. En lugar de utilizar un generador de números aleatorios arbitrario para elegir la siguiente palabra, el marcado de agua emplea la clave y algunas palabras anteriores para determinar qué palabra debe elegir el modelo. Es decir, las palabras que elige Claude siguen siendo aleatorias, pero ahora puede verificarse la secuencia de palabras y comprobar si es coherente con las decisiones que Claude tomaría al utilizar esa clave. Si lo es, puede asignarse una probabilidad de que el texto haya sido generado por Claude».

Anthropic aclara lo siguiente: su marca de agua no afecta de forma práctica a la calidad ni al contenido; el lector no podrá distinguir un texto marcado de uno no marcado; no se añaden elementos visibles ni caracteres ocultos; no requiere tokens extra ni encarece el uso; y no contiene información identificativa ni permite rastrear a una persona, organización o conversación concreta.

Conclusión

La autoría de un texto implica tener una idea, decidir qué se quiere decir y cómo expresarlo, y asumir la responsabilidad del resultado. La IA puede utilizarse de muchas formas; por ejemplo, para revisar un texto y corregir errores ortográficos o gramaticales. En esos casos, el texto no debería considerarse automáticamente «escrito por IA».

El artículo 50.2 del RIA reconoce que la edición estándar o cambios no sustanciales no deben activar la obligación de marcado. Sin embargo, el modelo de Anthropic puede, en la práctica, marcar textos en los que la contribución principal es humana, por ejemplo, revisiones ligeras o correcciones, porque el patrón se incrusta en las elecciones de palabras que sí realiza el modelo, y esto desvirtúa el mandato del Reglamento.

error: Contenido protegido por derechos de autor. Queda prohibida la reproducción, distribución, transformación, transcripción y almacenamiento de este contenido, sin la autorización previa y expresa del titular de los derechos. Para pedir dicha autorización, diríjase al titular enviando un correo electrónico a info@protecciondata.es