OpenAI llevará marcas de agua invisibles a ChatGPT y Codex en la UE

OpenAI prevé incorporar marcas de agua invisibles a textos generados por ChatGPT y Codex para usuarios elegibles de la Unión Europea durante las próximas semanas. La compañía presentó la medida como parte de su respuesta a las exigencias de transparencia vinculadas a la normativa europea sobre inteligencia artificial, aunque la señal técnica no equivale por sí sola a una prueba concluyente de que una persona o un modelo haya escrito un texto.

La tecnología se llama textGrain. En lugar de añadir caracteres visibles o elementos ocultos al formato, incorpora una señal estadística en la selección de palabras del modelo. Un detector puede buscar ese patrón en el texto y estimar si contiene una marca de OpenAI.

El despliegue será distinto en los productos y en la API

En ChatGPT y Codex, la marca se añadirá a las salidas de los usuarios elegibles de la UE, según el anuncio de OpenAI. La compañía no ha precisado en la información disponible qué criterios determinan esa elegibilidad.

Para determinados modelos de su API, en cambio, los clientes de todo el mundo podrán activar el marcado de forma voluntaria. La función permanecerá desactivada por defecto. OpenAI también ha indicado que trabaja para ofrecer la marca a través de proveedores de servicios en la nube, pero no ha detallado aquí el alcance de esa disponibilidad.

El detector tendrá inicialmente acceso restringido: podrán solicitarlo investigadores y organizaciones expertas aprobados. Por tanto, que una salida esté marcada no significa que cualquier destinatario pueda comprobarlo directamente con una herramienta pública.

Una detección depende del texto y de cómo se haya editado

OpenAI describe textGrain como una tecnología todavía incipiente y advierte de que puede producir falsos positivos —detectar una marca donde no la hay— y falsos negativos —no detectar una marca presente—. Su rendimiento también varía con la longitud y el tipo de contenido. Los textos breves y técnicos pueden ofrecer menos margen para que el modelo incorpore un patrón estadístico reconocible.

En evaluaciones comunicadas por la compañía, el detector identificó alrededor del 80% de fragmentos de 200 tokens y del 95% de fragmentos de 400 tokens en pruebas con contenido de psicología, con una tasa objetivo de falsos positivos del 1%. Son resultados de evaluación bajo condiciones concretas, no una garantía de precisión en cualquier texto o uso cotidiano.

La edición puede debilitar notablemente la señal. En una prueba citada por OpenAI, sustituir por sinónimos el 25% de las palabras de fragmentos de 400 tokens redujo la detección del 92% al 17%. El resultado muestra una limitación del sistema ante cambios en el texto; no permite concluir que todos los tipos de edición produzcan la misma caída.

Qué puede indicar —y qué no— una marca

Una detección positiva puede señalar que el texto presenta el patrón asociado a una marca de OpenAI. No identifica a la persona usuaria, no revela sus instrucciones, no determina cuánto trabajo humano hubo ni acredita quién posee los derechos sobre el contenido. Tampoco verifica que la información sea correcta.

A la inversa, que el detector no encuentre la señal no demuestra que el texto lo haya escrito una persona. Puede no detectarla por la brevedad o el tipo de contenido, por modificaciones posteriores o porque se haya generado con un modelo que no incorpora textGrain.

OpenAI sitúa el despliegue en el contexto de las obligaciones de transparencia de la Ley de IA de la UE. Esa relación debe entenderse como el marco que la compañía invoca para explicar su decisión: la información disponible no permite afirmar que la norma obligue a marcar de esta manera concreta cada texto generado. La marca es una herramienta técnica de identificación, con límites reconocidos por la propia empresa, y no sustituye otras formas de evaluar el origen, la responsabilidad o la fiabilidad de una publicación.