Un reciente informe del Centro para Contrarrestar el Odio Digital (CCDH) reveló cifras escalofriantes: en un periodo de apenas 11 días, el modelo de inteligencia artificial (IA) Grok, generó aproximadamente 3 millones de imágenes sexualizadas.
Lo más alarmante es que, dentro de este volumen, se estima la creación de 23.000 imágenes de menores, lo que equivale a una imagen de abuso infantil generada cada 41 segundos. La función de edición de Grok permitió a los usuarios subir fotografías de personas para ‘desnudarlas digitalmente’ o colocarlas en situaciones explícitas mediante comandos de texto.
A pesar de que X impuso restricciones el pasado 14 de enero para frenar el ‘desnudamiento digital’ de personas reales, la crisis está lejos de terminar. La aplicación independiente de Grok sigue permitiendo estas prácticas, operando bajo el radar de las políticas de seguridad de las grandes tiendas de aplicaciones.
TE PUEDE INTERESAR: Google integra tus fotos y Gmail en la búsqueda con ‘Personal Intelligence’
Los números del escándalo y el vacío de responsabilidad de Grok
- El estudio del CCDH, basado en una muestra de 20.000 imágenes analizadas entre el 29 de diciembre y el 9 de enero, arroja datos que definen la magnitud del problema:
- Producción masiva: Grok generó un promedio de 190 imágenes sexualizadas por minuto.
- Ataque a la infancia: se identificaron casos donde fotos inocentes de niñas, como ‘selfies antes de ir al colegio’, fueron transformadas en imágenes en bikini mediante la IA.
- Persistencia del contenido: a fecha del 15 de enero, el 29% de las imágenes de niños detectadas seguían siendo accesibles en X a través de sus URLs directas, incluso si la publicación original había sido reportada.
- Inacción corporativa: a pesar de que las políticas de Apple y Google prohíben explícitamente aplicaciones que generen este tipo de contenido, ambas compañías han mantenido a Grok en sus tiendas de aplicaciones sin emitir comentarios oficiales.
- Países como Indonesia y Malasia han bloqueado temporalmente el acceso a la herramienta. Reino Unido inició una investigación que podría derivar en multas de hasta el 10% de los ingresos globales de la plataforma.
- La empresa xAI (desarrolladora de Grok) respondió a las consultas de los medios con un mensaje automatizado: «Los medios tradicionales mienten».
Foto: Archivo FOLOU.