OpenAI anunció que agregará una marca de agua invisible al texto y código generados en la Unión Europea (UE). Esta medida se implementa para cumplir con las nuevas normas de transparencia en inteligencia artificial (IA) de la región.
La empresa utilizará un sistema propietario llamado textGrain, que añade una señal estadística invisible a las elecciones de palabras del modelo. Un detector puede identificar estas señales y determinar si el contenido tiene una marca de agua. OpenAI afirma que este sistema ha igualado o superado el rendimiento de otros enfoques, como SynthID para texto.
La filigrana no estará habilitada por defecto, excepto para la salida de texto elegible de ChatGPT y Codex en la UE. Los clientes podrán optar por usarla en ciertos modelos, aunque no se especificaron cuáles estarán disponibles. La tecnología será abierta para que otros puedan ajustarla, y el acceso al software de detección estará limitado inicialmente a investigadores aprobados y organizaciones expertas.
TE PUEDE INTERESAR: Trump nombra a un ‘zar de la IA’ para su ‘Fuerza de Super Inteligencia’
Qué debes saber
- OpenAI añadirá una marca de agua invisible a textos y códigos generados en la UE.
- El sistema textGrain añade una señal estadística invisible a las elecciones de palabras.
- La tasa de éxito en la detección es del 80% para textos más cortos y matemáticas.
- La marca de agua no estará habilitada por defecto, salvo para ChatGPT y Codex en la UE.
- El acceso al software de detección estará limitado a investigadores y expertos.
Especificaciones técnicas
- Sistema: textGrain
- Tasa de éxito: Aproximadamente 80% para textos cortos y matemáticas
- Aplicación: Salida de texto elegible de ChatGPT y Codex en la UE
Un rendimiento fuerte en condiciones ideales no garantiza una detección fiable en el uso diario.
— OpenAI
Contenido generado con IA y editado por el equipo editorial.
Foto: