Qué es Astra, el potente nuevo modelo de inteligencia artificial ChatGPT lanzado por OpenAI
OpenAI ha anunciado sus planes para cumplir con parte de las nuevas directrices de transparencia de Inteligencia Artificial (IA) de la Unión Europea, que obligan a que el texto generado sea identificable, en este caso mediante una marca de agua invisible tanto en ChatGPT como en Codex.
El laboratorio de IA ha dado los detalles del sistema textGrain, que introduce una señal estadística invisible en las selecciones de palabras del modelo, que posteriormente se detectan con un sistema propio, que busca esa señal para evaluar si un fragmento de texto contiene la marca de agua de OpenAI.
En un despliegue por fases, y previamente para los los usuarios globales de la API, desde este martes estos podrán optar por activar la marca de agua en ciertos modelos, que "se mantendrá desactivada por defecto en la API".
Para los usuarios de la Unión Europea, tanto de ChatGPT como de Codex, en las próximas semanas se añadirá la marca de agua invisible al texto y código que se genere en ambas plataformas.
"La marca de agua de texto y su detección se mantienen como tecnologías incipientes con limitaciones significativas, y las opiniones sobre sus beneficios y usos responsables todavía están evolucionando", señala OpenAI en su anuncio, para recordar a continuación que su "enfoque por fases refleja tanto los requisitos de la Ley de IA de la UE como las limitaciones de la tecnología, con énfasis en la transparencia sobre lo que una marca de agua de texto puede y no puede decir a las personas".
Además, el laboratorio de IA ha abierto las solicitudes para acceder al detector de marca de agua de texto, cuyo acceso se limitará inicialmente a investigadores y organizaciones de expertos aprobados.
Por otro lado, OpenAI ha publicado un informe más completo en el que describe el funcionamiento de textGrain. "En nuestras evaluaciones, textGrain igualó o superó el rendimiento de otros enfoques probados, incluido SynthID para texto. Aun así, un alto rendimiento en condiciones ideales no garantiza que la detección sea fiable en el uso cotidiano", señala OpenAI.
Al igual que hizo Anthropic en agosto, cuando anunció el despliegue de su marca de agua invisible en el texto generado por Claude y su API, activa ya en Opus 5.5 y Sonnet 5.5, OpenAI ha advertido de que "los detectores pueden cometer dos tipos de errores: pueden indicar una marca de agua donde no hay ninguna --un falso positivo-- o pasar por alto una marca de agua que está presente --un falso negativo".
Las dificultades técnicas a las que todavía se enfrenta textGrain son detectar la marca de agua en textos cortos o técnicos, al haber poco margen para elegir palabras, y en textos editados, ya que la edición reduce drásticamente su detección. Por ejemplo, sustituir el 25 % de las palabras por sinónimos reduce la detección del 92 % al 17 % en fragmentos de 400 'tokens'.