Investigadores de UC Riverside han desarrollado una herramienta capaz de identificar el modelo de inteligencia artificial (IA) utilizado para crear un video falso. Esta herramienta, llamada SAGA (Atribución de Fuentes de Videos de IA Generativa), puede rastrear un video falso hasta el modelo de IA específico que lo generó.
SAGA funciona buscando patrones visuales sutiles que los generadores de video con IA dejan involuntariamente. Estos patrones son como huellas dactilares y trazas distintivas que difieren de un sistema de IA a otro.
La herramienta estudia tanto fotogramas individuales como cómo los visuales evolucionan a lo largo de toda una secuencia, utilizando una técnica llamada Firmas de Atención Temporal para construir un perfil distinto para cada sistema de IA basado en patrones promediados en muchos de sus vídeos.
TE PUEDE INTERESAR: Biotecnología podría solucionar problemas de medicamentos en Misiones Espaciales
Qué debes saber
- SAGA puede identificar el modelo de IA utilizado para crear un video falso.
- Busca patrones visuales sutiles y trazas distintivas en los videos.
- Utiliza la técnica de Firmas de Atención Temporal para construir perfiles de sistemas de IA.
- Puede confirmar si un video es real o falso, e incluso señalar al equipo de desarrollo específico detrás de él.
- Es útil para rastrear campañas de desinformación y apoyar la transparencia en línea.
- La importancia de esta herramienta radica en su capacidad para ayudar a rastrear campañas de desinformación, apoyar a los reguladores con normas de transparencia y ofrecer a las empresas tecnológicas una mejor comprensión de cómo se difunde el contenido falso en línea.
Especificaciones técnicas
- Desarrollada por investigadores de UC Riverside, YouTube y Google DeepMind.
- Probada contra 19 generadores de vídeo con IA diferentes.
- Cubre tanto sistemas de texto a vídeo como de imagen a vídeo.
Contenido generado con IA y editado por el equipo editorial.
Foto: Mihail-Anton Ghiga en Unsplash.