OpenAI está intensificando sus esfuerzos para prevenir el uso indebido de ChatGPT, revelando en su más reciente informe de amenazas que ha identificado y desmantelado más de 40 redes maliciosas desde febrero de 2024.
El documento detalla cómo actores estatales, grupos criminales y usuarios individuales han intentado aprovechar el modelo de lenguaje para actividades ilícitas, desde campañas de phishing hasta vigilancia masiva y operaciones de influencia política.
La compañía, respaldada por Microsoft, utiliza una combinación de herramientas automatizadas y revisión humana para monitorear los chats en busca de patrones de comportamiento sospechosos. Según OpenAI, su enfoque se basa en detectar redes organizadas y no en interacciones aisladas, lo que permite una intervención más precisa sin afectar la experiencia de los usuarios legítimos.
TE PUEDE INTERESAR: OpenAI adquiere Roi: una app de inversión personal con IA ¿qué viene de nuevo?
Ciberseguridad y propaganda detectadas en ChatGPT
- Entre los casos destacados se encuentra una red de crimen organizado con sede en Camboya que intentó usar ChatGPT para optimizar sus operaciones.
- También se identificó una operación de influencia rusa que utilizaba el modelo para generar guiones destinados a modelos de video de terceros.
- En otro caso, cuentas vinculadas al gobierno chino solicitaron ayuda para diseñar sistemas de monitoreo de redes sociales, violando las políticas de seguridad nacional de OpenAI.
- Informes de Reuters revelan intentos de desarrollar malware por parte de grupos criminales rusos, incluyendo troyanos de acceso remoto y herramientas para el robo de credenciales.
- En Corea del Sur, se detectaron campañas de phishing que utilizaban ChatGPT para automatizar procesos de ataque.
- En todos estos casos, los sistemas de seguridad de OpenAI bloquearon las solicitudes maliciosas antes de que pudieran ejecutarse.
- Se documentaron intentos de manipulación política y propaganda por parte de actores estatales, que buscaban generar contenido persuasivo o monitorear disidencias.
- Uno de los casos más preocupantes involucró el diseño de un modelo de alerta para rastrear movimientos de la comunidad uigur en China, lo que fue considerado una violación grave de derechos humanos.
Foto: Solen Feyissa en Unsplash.