Check Point Research (CPR) descubrió un nuevo tipo de adware llamado Haiou, que modifica las instrucciones de confianza de los agentes de IA para inyectar anuncios. Este hallazgo plantea preocupaciones sobre la seguridad y la visibilidad en el uso de la IA en entornos empresariales.
Haiou es un paquete de jailbreak de OpenAI Codex que altera las instrucciones globales de un agente de IA, provocando que saludos comunes activen anuncios de una puerta de enlace de IA de terceros. Este comportamiento, denominado ‘adware de aviso’ por CPR, se realiza mediante lenguaje natural y archivos de configuración, sin necesidad de código ejecutable tradicional.
Este descubrimiento es importante porque muestra cómo las indicaciones, habilidades y configuraciones de terceros pueden influir silenciosamente en el comportamiento de los sistemas de IA, lo que podría poner en riesgo la información confidencial y la integridad de los datos de las empresas.
TE PUEDE INTERESAR: Atacantes usan entrevistas falsas para robar 6.300 millones en Binance
Qué debes saber
- Haiou es un paquete de jailbreak que modifica las instrucciones de confianza de los agentes de IA para inyectar anuncios.
- El adware de aviso utiliza lenguaje natural y archivos de configuración para influir en el comportamiento futuro del agente de IA.
- Este hallazgo pone de relieve la necesidad de mayor visibilidad y control sobre las indicaciones, habilidades y configuraciones de los agentes de IA en entornos empresariales.
Especificaciones técnicas
- Haiou modifica las instrucciones globales de OpenAI Codex.
- Los saludos comunes activan anuncios de una puerta de enlace de IA de terceros.
- No se requiere código ejecutable tradicional para este tipo de manipulación.
Contenido generado con IA y editado por el equipo editorial.
Foto: Check Point Research.