La inteligencia artificial (IA) entra en una nueva etapa corporativa. Hoy, los agentes de IA no solo consultan datos, sino que ejecutan tareas, procesan gastos y desarrollan código de forma autónoma. Sin embargo, a mayor autonomía, mayores son los riesgos vinculados a los permisos e información confidencial a los que tienen acceso.
Microsoft encendió las alarmas en un reciente análisis sobre seguridad, advirtiendo que estos sistemas pueden cometer errores, ser manipulados mediante instrucciones maliciosas o exponer información clave de la empresa. En este escenario, el riesgo no solo proviene de ciberdelincuentes, sino también de fallas en las propias herramientas internas.
Para responder a este desafío, la compañía amplió Project Perception y presentó los Guardian Agents, diseñados para supervisar a otros sistemas de IA en tiempo real. Estos agentes aplican controles independientes sobre permisos y datos, ajustando el nivel de acceso según el riesgo de cada acción para prevenir incidentes y proteger la información sensible.
TE PUEDE INTERESAR: Phishing por WhatsApp y SMS: cómo detectar mensajes falsos y evitar estafas
Los agentes también pueden ser manipulados
- Un estudio de la Universidad de Washington reveló que cuatro de siete navegadores con IA evaluados fallaban en impedir que ciertos sitios accedieran sin permiso a datos de otros servicios
- Los investigadores demostraron la efectividad del ataque por inyección de instrucciones, donde se insertan comandos ocultos en el contenido que procesa el agente para alterar su comportamiento
- Un agente programado para resumir una página web puede ser engañado mediante estas instrucciones ocultas para compartir o transferir datos confidenciales a sitios externos
- Estos hallazgos evidencian los severos retos de seguridad que surgen cuando los sistemas de IA interactúan directamente con información y servicios sensibles en las empresas
Colombia también empieza a adoptar agentes de IA
- El avance de esta tecnología también se refleja en el sector tecnológico colombiano. Un sondeo realizado por Fedesoft y Cenisoft entre abril y mayo de 2026, con 104 empresas del sector, encontró que el 66,3% ya tenía soluciones de IA en producción, mientras que el 32,7% utilizaba agentes de esta tecnología.
- El 81% de las compañías consultadas consideraba que la IA tendría una prioridad alta o muy alta durante los siguientes dos años.
- Entre las organizaciones que ya avanzaban en su adopción, el 60% buscaba mejorar la productividad y optimizar procesos internos.
- Los resultados corresponden específicamente a empresas de software y tecnologías de la información, por lo que no representan a todo el sector empresarial colombiano.
Foto: Microsoft.