OpenAI añadirá marcas de agua invisibles a las respuestas de texto de versiones compatibles de ChatGPT y Codex en la Unión Europea durante las próximas semanas.

La empresa desarrolló la tecnología en respuesta a los requisitos de la Ley de IA de la UE para la identificación legible por máquina de contenido generado.

Los clientes de la API en todo el mundo podrán activar voluntariamente las marcas de agua para modelos específicos, pero la función seguirá desactivada de forma predeterminada.

OpenAI dijo que la edición, la traducción y una flexibilidad limitada en la elección de palabras pueden reducir las tasas de detección.

OpenAI introducirá marcas de agua invisibles para las respuestas de texto de versiones compatibles de ChatGPT y Codex en la Unión Europea durante las próximas semanas. La tecnología pretende ayudar a determinar si un texto fue creado o procesado por sistemas de OpenAI, mientras los proveedores de IA generativa afrontan requisitos de la UE para que el contenido generado sea identificable en forma legible por máquina.

OpenAI introdujo el enfoque en respuesta a la Ley de IA de la UE. La función también estará disponible a nivel mundial para los clientes de la API, que podrán activar voluntariamente las marcas de agua para modelos específicos. Seguirá desactivada de forma predeterminada.

Cómo funciona textGrain

El sistema, denominado textGrain, incorpora una señal estadística invisible en las elecciones de palabras de un modelo. Un detector específico analiza después el texto para determinar si contiene esa señal.

OpenAI dijo que textGrain tuvo un desempeño igual o mejor que otros enfoques que probó, incluido SynthID para texto. No obstante, la empresa advirtió que los resultados de laboratorio no garantizan la misma eficacia en condiciones reales.

Con una tasa de falsos positivos del 1%, el detector encontró la marca de agua en alrededor del 80% de extractos de 200 tokens y cerca del 95% de extractos de 400 tokens sobre temas como la psicología, según OpenAI. Las tasas de detección fueron más bajas para las matemáticas porque los modelos tenían menos libertad para elegir palabras.

La edición también afectó significativamente el desempeño. Sustituir el 10% de las palabras por sinónimos redujo la tasa de detección de alrededor del 92% al 66%, mientras que sustituir el 25% de las palabras la redujo al 17%.

Las marcas de agua proporcionan información limitada sobre la procedencia

OpenAI dijo que una marca de agua proporciona solo una señal limitada sobre la procedencia de un texto. Un resultado de detección no revela cuánto del texto aportó una persona, quién es propietario o responsable de él, quién utilizó el sistema de OpenAI, qué instrucción o conversación lo produjo, ni si la información es verdadera o falsa.

La ausencia de una marca de agua tampoco demuestra que una persona haya escrito el texto. OpenAI dijo que la detección podría fallar porque un pasaje es demasiado corto, ha sido editado o traducido, procede de un modelo diferente o fue creado antes de que se introdujera la tecnología.

El acceso al detector estará inicialmente restringido

OpenAI ha abierto solicitudes para investigadores aprobados y organizaciones expertas que busquen acceso al detector. La empresa citó los riesgos de resultados falsos positivos y falsos negativos, y afirmó que inicialmente proporcionará acceso de forma individual para evaluar la fiabilidad del sistema y sus usos responsables.

La empresa también planea publicar textGrain como código abierto para que otros desarrolladores puedan crear sus propias herramientas con la tecnología. OpenAI dijo que las pruebas del nuevo modelo avanzado Astra no encontraron diferencias significativas en los resultados de referencia con y sin marcas de agua.

OpenAI dijo que ningún método por sí solo puede verificar plenamente la procedencia del contenido. Planea seguir mejorando la detección de marcas de agua, incluso mediante la evaluación de su resistencia a la edición y la traducción, y aspira finalmente a distinguir con mayor eficacia entre la escritura asistida por IA y la autoría íntegramente generada por IA.

Por separado, la fuente informó anteriormente que OpenAI buscaba recaudar 30.000 millones de dólares con una valoración de 1,4 billones de dólares.

Fuente: HODL Press