La inteligencia artificial (IA) no solo está transformando la productividad empresarial y la vida cotidiana, también se ha convertido en una herramienta para actores maliciosos. Un nuevo informe del Grupo de Inteligencia de Amenazas de Google (TAG) advierte que Gemini, el modelo de IA de la compañía, está siendo explotado por hackers para optimizar y acelerar ciberataques.
Lejos de limitarse al spam de phishing, los atacantes utilizan Gemini en múltiples fases de sus operaciones: desde el reconocimiento inicial de objetivos hasta la actividad post-brecha.
El hallazgo subraya un cambio en el ritmo de los ataques, más rápidos y difíciles de detectar, lo que plantea un desafío urgente para defensores y equipos de seguridad.
Google asegura que ha desactivado cuentas e infraestructuras vinculadas a abusos de Gemini, añadido defensas específicas en los clasificadores del modelo y continuado con pruebas y medidas de seguridad adicionales; la conclusión práctica para los equipos de seguridad es que los ataques asistidos por IA serán más rápidos, aunque no necesariamente más inteligentes, por lo que recomiendan ajustar los protocolos de respuesta para evitar que la velocidad se convierta en la principal ventaja de los atacantes.
TE PUEDE INTERESAR: Google Photos prueba botón de copiar para compartir imágenes al instante
Cómo se está usando Gemini en ciberataques
- Reconocimiento y perfilado: los atacantes emplean Gemini para investigar objetivos y generar perfiles detallados.
- Ingeniería social y phishing: la IA facilita la creación de textos convincentes y traducciones rápidas para campañas globales.
- Programación y depuración: hackers han usado Gemini para escribir, corregir y depurar código malicioso bajo presión.
- Pruebas de vulnerabilidades: Gemini ayuda a automatizar análisis y planes de prueba en escenarios simulados.
- Extracción de modelos: algunos actores intentan replicar el funcionamiento de Gemini mediante miles de prompts, lo que representa un riesgo de propiedad intelectual.
Actores involucrados
- El informe vincula estas actividades con grupos respaldados por Estados en países como:
- China
- Irán
- Corea del Norte
- Rusia
- Según Google, estos actores no están inventando nuevas tácticas, sino reduciendo los obstáculos en procesos ya conocidos, lo que les permite iterar más rápido y con menos errores.
Foto: Archivo FOLOU.