Check Point Software Technologies y NVIDIA anunciaron una nueva integración que combina la supervisión de seguridad basada en IA de Check Point con la plataforma Open Agent Safety y el entorno de ejecución OpenShell de NVIDIA. Esta combinación permite evaluar las acciones de un agente antes de que se ejecuten, ayudando a las organizaciones a identificar y detener comportamientos potencialmente dañinos en tiempo real.
La plataforma NVIDIA Open Agent Safety Platform integra una barrera en la infraestructura. Su núcleo es NVIDIA OpenShell, un entorno de ejecución abierto y seguro que controla cómo se ejecuta un agente, qué puede ver y hacer, y adónde va su inferencia. Por defecto, no se permite nada, se registra cada permiso y denegación, y la aplicación de las políticas se ejecuta fuera del proceso del agente, por lo que se mantiene incluso si este se ve comprometido.
La plataforma también incluye NVIDIA Sentry, que se ejecuta en NVIDIA BlueField-4 y utiliza NVIDIA DOCA para la monitorización fuera de banda y la aplicación de políticas de seguridad. Este sistema de vigilancia, aislado del hardware e independiente del host, sigue aplicando las políticas incluso si el propio host se ve comprometido.
TE PUEDE INTERESAR: OpenAI pausa desarrollo de IA tras incidentes de seguridad
Qué debes saber
- Check Point y NVIDIA han desarrollado una nueva integración para mejorar la seguridad de la IA.
- La plataforma NVIDIA Open Agent Safety Platform y el entorno de ejecución OpenShell son centrales en esta solución.
- Permite evaluar las acciones de un agente antes de que se ejecuten, identificando y deteniendo comportamientos potencialmente dañinos en tiempo real.
- La monitorización semántica de Check Point y la plataforma de NVIDIA permiten una protección más eficaz y adaptativa.
- Esta nueva integración es crucial para proteger la seguridad de la IA, ya que permite una monitorización semántica que sigue al agente mientras trabaja y relaciona cada acción con lo que se le pidió que hiciera.
- Esto ayuda a detectar comportamientos anómalos y a tomar medidas en tiempo real, asegurando que los agentes de IA sigan una ruta aceptable para alcanzar sus objetivos.
«Asignar un objetivo a un agente de IA no garantiza que este siga una ruta aceptable para alcanzarlo. Ese es el problema de seguridad que debemos resolver ahora. Comprender la intención y el comportamiento, y actuar en consecuencia en tiempo real, es fundamental para el enfoque que consideramos necesario a la hora de proteger la IA autónoma»,.
— Steve Giguere, Check Point Software Technologies
Contenido generado con IA y editado por el equipo editorial.
Foto: Roman Budnikov en Unsplash.