Se ha descubierto una red de cientos de aplicaciones de inteligencia artificial (IA) que parecían inofensivas, pero en realidad ocultaban herramientas para generar deepfakes explícitos. Estas aplicaciones, que se presentaban como editoras de fotos de mascotas, tutoras de idiomas, entrenadores de ejercicio y otras utilidades cotidianas, cambiaban a una interfaz oculta bajo ciertas condiciones.
Según una investigación de Wired, estas aplicaciones utilizaban un truco en el servidor para mantener ocultas las funciones de nudificación. Cuando alguien instalaba la app, esta enviaba un ping a un servidor remoto con detalles como la ubicación, idioma, identificador del dispositivo y cómo la encontró. El servidor decidía entonces si mostrarles la versión inofensiva o la interfaz web oculta.
La capa oculta ofrecía decenas de plantillas explícitas de deepfake, permitiendo a los usuarios subir fotos reales e insertarlas en escenas explícitas, incluidas aquellas que involucraban amenazas y violencia. Los investigadores afirman que ciertos desencadenantes, como instalar la app después de hacer clic en un anuncio en Facebook o Instagram, podían revelar la interfaz oculta. Las aplicaciones incluso aceptaban pagos a través de Apple Pay y Google Pay, lo que las hacía aún más peligrosas.
TE PUEDE INTERESAR: Científicos rompen el techo de eficiencia del 33% en paneles solares
Qué debes saber
- Investigadores de AI Forensics descubrieron más de 400 aplicaciones en la Play Store de Google y la App Store de Apple.
- Las apps usaban un truco en el servidor para mantener ocultas las funciones de nudificación.
- Los desarrolladores chinos y una entidad de Hong Kong llamada KeLing Technology Limited están detrás de estas aplicaciones.
- Apple y Google han retirado varias de estas aplicaciones tras enterarse del esquema.
Especificaciones técnicas
- Tipo: Aplicaciones móviles
- Plataformas: Android e iOS
- Funciones ocultas: Generación de deepfakes explícitos
- Métodos de pago: Apple Pay, Google Pay
Contenido generado con IA y editado por el equipo editorial.
Foto: IA Forense.