OpenAI ha anunciado sus planes para cumplir con las nuevas directrices de transparencia de Inteligencia Artificial de la Unión Europea. Entre las nuevas normativas, los textos generados por Chat GPT o Codex deben ser identificables a través de una marca de agua invisible. En un despliegue por fases, desde este martes los usuarios globales de la Interfaz de Programación de Aplicaciones (API) tendrán la opción de activar la marca de agua en ciertos modelos. Esta opción se mantendrá desactivada por defecto en la API.

Para los usuarios tanto de Chat GPT como de Codex de la UE, en las próximas semanas se añadirá la marca de agua invisible al texto y código que se genere. El laboratorio de IA ha dado los detalles del funcionamiento de este sistema conocido como ‹textGrain›. Este introduce una señal estadística invisible en las selecciones de palabras del modelo que se detectan con un sistema propio, mientras busca esa señal para evaluar si un texto contiene la marca de agua de OpenAI.

Noticia relacionada Andalucía sitúa a la Inteligencia Artificial como clave para eliminar burocracia y abrir mercado

Adecuación tecnológica

OpenAI afirma que este enfoque por fases refleja su compromiso con la Ley de la IA de la UE y con las limitaciones de la tecnología. Asimismo, la empresa ha señalado que la marca de agua de texto y su detección se mantienen como tecnologías en desarrollo con limitaciones significativas, y las opiniones sobre sus beneficios y usos responsables están en evolución. Aunque el acceso al detector de la marca de agua de texto se limitará de forma inicial a investigadores y organizaciones de expertos aprobados.

El informe publicado por OpenAI también añade el funcionamiento completo de ‹textGrain›. «En nuestras evaluaciones, ‹textGrain› igualó o superó el rendimiento de otros enfoques probados, incluido ‹SynthID› para texto», señala la compañía de inteligencia artificial. Aun así, dejan claro que no se garantiza la detección fiable en el uso cotidiano.

La compañía admite que puede haber errores tanto en la implementación como en la detección de marcas de agua ya presentes

La empresa también ha advertido que los detectores pueden cometer dos tipos de errores: indicar una marca de agua donde no hay o pasar por alto una marca de agua presente.
Entre las dificultades técnicas a las que se enfrenta ‹textGrain›, las más destacadas son detectar la marca de agua en textos cortos o técnicos y en textos editados, ya que la edición reduce de forma drástica su identificación. La sustitución del 25% de las palabras por sinónimos reduce la detección del 92% al 17%.