OpenAI incorporará una marca de agua invisible a los textos de ChatGPT en la Unión Europea

OpenAI incorporará una marca de agua invisible a los textos de ChatGPT en la Unión Europea 2

OpenAI prepara un sistema de marca de agua invisible para los textos generados por ChatGPT y Codex en la Unión Europea, una medida que comenzará a desplegarse durante las próximas semanas en respuesta a las exigencias de procedencia de contenido del Reglamento de Inteligencia Artificial de la UE. La compañía también permitirá que los clientes de su API activen voluntariamente esta tecnología en determinados modelos. :chatgpt-content-reference{index=»1″}

La tecnología recibe el nombre de textGrain y funciona introduciendo una señal estadística invisible a través de la elección de palabras que realiza el modelo. Posteriormente, un detector puede analizar un texto para comprobar si contiene esa señal. OpenAI reconoce, sin embargo, que la tecnología todavía tiene limitaciones importantes y que el resultado no debe interpretarse como una prueba absoluta de que un texto haya sido escrito por inteligencia artificial.

El anuncio se produce el 5 de octubre de 2026, dentro de la estrategia de OpenAI para cumplir las obligaciones europeas relacionadas con la identificación de contenidos generados por sistemas de IA. La compañía explica que la tecnología de watermarking de texto todavía se encuentra en una fase temprana, por lo que ha optado por un despliegue gradual y con acceso restringido a las herramientas de detección.

El watermark llegará primero a ChatGPT y Codex en Europa

El cambio afectará a los textos elegibles generados por ChatGPT y Codex dentro de la Unión Europea. OpenAI señala que la incorporación de la marca de agua se producirá durante las próximas semanas y que estará disponible para usuarios de todos los planes que entren dentro del alcance definido por la compañía.

La medida no supone, al menos inicialmente, que OpenAI vaya a aplicar este sistema como configuración predeterminada en todo el mundo. El lanzamiento será regional, una decisión que la empresa justifica por la necesidad de obtener experiencia práctica y analizar los resultados antes de plantear una posible ampliación.

El sistema tampoco funcionará como una etiqueta visible para el usuario. Según explica OpenAI, textGrain introduce una señal estadística invisible en la selección de palabras del modelo. El detector desarrollado por la compañía busca posteriormente esa señal para determinar si un fragmento contiene el watermark.

OpenAI asegura que sus evaluaciones muestran resultados positivos en determinadas condiciones, aunque reconoce que la eficacia depende de factores como la longitud del texto, el tipo de contenido y las modificaciones posteriores que se hagan sobre el material generado.

La detección se vuelve más difícil cuando el texto es corto o se edita

Uno de los aspectos más relevantes del anuncio es que el watermark no es resistente a cualquier modificación del texto. OpenAI ha probado qué ocurre cuando se sustituyen palabras por sinónimos y los resultados muestran una caída considerable en la capacidad de detección.

En sus evaluaciones, la compañía señala que, con una tasa objetivo de falsos positivos del 1 %, el detector identificó la marca en aproximadamente el 80 % de los textos de 200 tokens y cerca del 95 % en pasajes de 400 tokens en determinados contenidos, como los relacionados con psicología.

La situación cambia cuando el texto se modifica. En una evaluación con fragmentos de 400 tokens, sustituir aproximadamente el 10 % de las palabras por sinónimos redujo la detección del 92 % al 66 %. Cuando la sustitución alcanzó el 25 %, la tasa cayó hasta el 17 %.

OpenAI también advierte de que la detección puede ser más complicada en materias como las matemáticas, donde existe menos libertad para variar la elección de palabras. Por tanto, la longitud y la naturaleza del contenido influyen directamente en la fiabilidad del sistema.

Los clientes de la API podrán activar el watermark de forma voluntaria

El despliegue europeo no será la única vía de utilización de textGrain. Desde el 5 de octubre, los clientes de la API de OpenAI de todo el mundo pueden optar por activar la marca de agua en determinados modelos compatibles.

En este caso, la función permanecerá desactivada por defecto. OpenAI deja así en manos de los clientes la decisión de incorporar el watermark a sus flujos de generación de texto, algo que puede resultar relevante para organizaciones que quieran ofrecer señales adicionales sobre la procedencia de los contenidos creados con sus aplicaciones.

La compañía también trabaja con proveedores cloud para ampliar esta posibilidad a contenidos generados mediante modelos de OpenAI a través de sus servicios. Esa disponibilidad se plantea para las próximas semanas, dentro del mismo enfoque gradual que está siguiendo la empresa.

El anuncio se integra en una estrategia más amplia de procedencia de contenido. OpenAI ya utiliza diferentes tecnologías para imágenes y audio y señala que ninguna técnica individual es suficiente para resolver por completo el problema de identificar contenido generado por IA.

El detector no estará disponible públicamente de momento

Otra de las decisiones destacadas es que OpenAI no abrirá inicialmente su detector de texto a cualquier usuario. La compañía ha comenzado a aceptar solicitudes de investigadores y organizaciones expertas que quieran acceder a la herramienta.

El acceso se concederá inicialmente caso por caso. El objetivo declarado es permitir que estos grupos ayuden a evaluar la fiabilidad de la tecnología y sus posibles usos antes de ampliar su disponibilidad. OpenAI considera especialmente importante esta fase debido a la posibilidad de falsos positivos y falsos negativos.

El detector tampoco permitirá conocer quién generó un determinado texto. Una detección positiva no identifica al usuario, la cuenta, la organización, el prompt ni la conversación que dio lugar al contenido. Tampoco determina quién es el propietario del texto ni quién tiene responsabilidad sobre él.

Del mismo modo, la ausencia de un watermark tampoco demuestra que un texto haya sido escrito por una persona. OpenAI explica que un contenido puede no ser detectado porque sea demasiado corto, haya sido editado o traducido, proceda de un modelo no compatible o haya sido generado antes de la introducción del sistema.

OpenAI quiere ampliar textGrain y estudiar sus límites

La compañía afirma que tiene previsto publicar la tecnología textGrain como código abierto para que otros puedan construir sobre ella. Al mismo tiempo, continuará estudiando cómo responde la marca de agua ante procesos habituales como la edición, la traducción o la reescritura.

OpenAI también quiere mejorar la capacidad de distinguir entre diferentes grados de intervención humana. La empresa reconoce que una señal de procedencia puede indicar que un sistema de OpenAI ha generado o procesado parte de un texto, pero no permite determinar cuánto trabajo humano existe detrás del resultado.

En sus pruebas internas, OpenAI afirma que no ha observado diferencias significativas de rendimiento en varios benchmarks al comparar determinadas salidas con y sin watermarking. La compañía utiliza estos resultados para sostener que el sistema puede incorporarse sin un impacto relevante en la calidad, aunque seguirá revisando su funcionamiento durante el despliegue.

La estrategia, por tanto, combina cumplimiento normativo, transparencia y experimentación tecnológica. El watermark comenzará a llegar a ChatGPT y Codex en la UE durante las próximas semanas, mientras que los usuarios de la API disponen ya de una opción voluntaria y los investigadores autorizados podrán empezar a evaluar el detector.


También podría ser de tu interés:

Deja un comentario