Una investigación reciente reveló una vulnerabilidad preocupante en la función de resumen de correos electrónicos de Gemini, el asistente de inteligencia artificial (IA) de Google para Gmail.
El hallazgo, presentado por el investigador Marco Figueroa a través del programa de recompensas de errores de Mozilla llamado 0din, demuestra cómo atacantes pueden insertar instrucciones ocultas en correos electrónicos que Gemini interpreta como comandos legítimos.
Por su parte, Google respondió a la investigación, afirmando que había actualizado sus modelos para identificar tales medidas de ingeniería rápida y bloquear los enlaces de phishing.
TE PUEDE INTERESAR: Tenable alerta sobre errores críticos en la nube: en riesgo miles de organizaciones
¿Cómo funciona el ataque en Gmail?
- Los atacantes incrustan texto invisible en el cuerpo del correo usando HTML y CSS (por ejemplo, fuente blanca sobre fondo blanco o tamaño de fuente cero).
- Cuando el usuario solicita a Gemini que resuma el correo, el modelo obedece las instrucciones ocultas y las incluye en el resumen como si fueran parte del mensaje original.
- Esto puede generar alertas falsas, como advertencias de seguridad o solicitudes de contacto, que parecen legítimas por venir del propio Gemini.
- El usuario puede ser inducido a compartir información confidencial, como contraseñas o datos personales, creyendo que está siguiendo una recomendación de seguridad.
- No se requieren enlaces ni archivos adjuntos, lo que permite que el correo pase filtros de seguridad y llegue directamente a la bandeja de entrada.
Recomendaciones para usuarios de Gemini en Gmail
- No confíes ciegamente en los resúmenes generados por IA, especialmente si incluyen instrucciones urgentes.
- Lee el correo completo antes de tomar decisiones importantes.
- Si eres parte de un equipo de seguridad, considera implementar filtros que detecten texto oculto o contenido sospechoso en correos electrónicos.
Foto: appshunter.io en Unsplash.