La inteligencia artificial (AI) ha traído consigo una ola de herramientas útiles, pero también está amplificando algunos de los aspectos más oscuros de la web. Según un nuevo informe del IWF (Internet Watch Foundation), se identificaron más de 8.000 imágenes y videos generados por AI de contenido abusivo infantil (CSAM) en 2025, lo que representa un aumento del 14% en comparación con el año anterior.
Según el sitio web Digital Trends, el incremento más alarmante es en el video, con un aumento de más de 260 veces, y alrededor del 65% de estos videos se clasifican como el tipo más extremo de abuso. El informe destaca cómo las herramientas de AI están facilitando la creación y distribución de este tipo de contenido.
Antes, este material se asociaba principalmente con la dark web, pero ahora se encuentra cada vez más en la web abierta, lo que complica su detección y moderación. La naturaleza sintética de este contenido hace que sea difícil rastrear su origen y eliminarlo, añadiendo capas adicionales de complejidad para las autoridades y plataformas en línea.
TE PUEDE INTERESAR: Google lanza Lyria 3 Pro: música AI de hasta 3 minutos
Qué debes saber
- El IWF reportó un aumento del 14% en contenido abusivo generado por AI en 2025.
- Hubo un incremento de 260 veces en videos abusivos generados por AI.
- Cerca del 65% de los videos analizados son de la categoría más extrema.
- Las herramientas de AI están haciendo que sea más fácil crear y distribuir este contenido.
- El contenido abusivo ahora se encuentra más en la web abierta, no solo en la dark web.
Lo más importante
- El uso de AI para generar contenido abusivo está aumentando a un ritmo alarmante.
- La accesibilidad y la facilidad de creación de este contenido representan un desafío significativo para la seguridad en línea.
- Las plataformas y las autoridades enfrentan mayores dificultades para detectar y eliminar este tipo de contenido.
Contenido generado con IA y editado por el equipo editorial.
Foto: Archivo FOLOU.