OpenAI will watermark ChatGPT outputs by default—but only in the EU
OpenAI ha anunciado que comenzará a marcar automáticamente con una marca de agua los textos generados por ChatGPT en la Unión Europea. Esta medida se debe a la necesidad de cumplir con la Ley de IA de la UE, que entró en vigor en agosto y exige que el contenido producido por modelos de IA sea marcado de manera que otra herramienta pueda detectarlo.
La técnica de OpenAI, denominada textGrain, es propietaria y funciona insertando patrones en las elecciones de palabras que no son evidentes para un lector humano y que no cambian significativamente la calidad general del texto. Sin embargo, alguien con la clave adecuada puede usar un detector especializado para encontrar estas marcas.
OpenAI ha declarado que proporcionará acceso al detector a un número limitado de investigadores y organizaciones, y abrirá un proceso de solicitud para que otros puedan ser añadidos con el tiempo. Aunque las pruebas de OpenAI muestran una tasa de detección exitosa del 92%, cambiar solo el 10% del texto puede reducir esta tasa en casi un 30%, y cambiar el 20% puede disminuirla hasta en un 75%.
En agosto, el competidor de OpenAI, Anthropic, también introdujo marcas de agua para los textos generados por sus modelos, pero a diferencia de OpenAI, Anthropic las ha habilitado globalmente. OpenAI, por su parte, solo las está haciendo obligatorias donde los reguladores lo exigen, al menos en las aplicaciones de ChatGPT y Codex, mientras que seguirá siendo opcional en la API.
La nueva marca de agua se implementará para los usuarios en la UE «en las próximas semanas», según la compañía.