Los chatbots de inteligencia artificial (IA) se utilizan cada vez más como fuente de orientación en seguridad digital. Sin embargo, un nuevo estudio de NYU Tandon advierte que estas herramientas suelen entregar recomendaciones equivocadas frente a casos de acoso o vigilancia tecnológica.
Tras analizar 193 consultas sobre situaciones reales de abuso, los investigadores evaluaron la respuesta de GPT-4o, Claude 3.7 Sonnet y las plataformas especializadas Aimee y Ruth. El resultado fue crítico: el 86% de sus orientaciones resultaron inexactas, incompletas o inseguras para las víctimas.
El análisis reveló además que los sistemas responden con facilidad a consultas técnicas que esconden intenciones de espionaje. De hecho, Aimee y Ruth atendieron el 66% de las peticiones formuladas por posibles abusadores, demostrando la incapacidad actual de la IA para detectar riesgos de acoso y proteger a los usuarios.
TE PUEDE INTERESAR: Nueva herramienta de IA predice supervivencia al cáncer con selfies
Los chatbots también pueden ser manipulados
- Los chatbots ofrecieron recomendaciones ineficaces que incluso podrían generar nuevos riesgos para la víctima
- Sugirieron el uso de inhibidores de GPS, una práctica que puede ser ilegal en Estados Unidos
- Recomendaron comprar detectores de radiofrecuencia o usar VPN para eliminar spyware, soluciones que no resuelven el problema
- Aconsejan cambios de contraseña que resultan inútiles si el agresor mantiene el acceso a cuentas compartidas
- Omitieron advertir que un spyware en dispositivos modificados con jailbreak puede sobrevivir al restablecimiento de fábrica
- Alertaron que alterar configuraciones o borrar aplicaciones sin asesoría puede alertar al acosador o destruir pruebas clave
- Aconsejan buscar orientación experta y usar un dispositivo seguro antes de realizar cualquier cambio en cuentas o teléfonos
- Exhortan a los desarrolladores de IA a que los asistentes reconozcan sus límites y remitan a ayuda humana experta en situaciones de alto riesgo
Foto: Ant Rozetsky en Unsplash.