NVIDIA, el fabricante de chips, anunció ‘NeMo Guardrails’, un software de código abierto que pretende resolver el problema principal de ChatGPT: responder cosas irrelevantes, sin sentido u objetivamente incorrectas.
Para ello, la compañía tiene como propósito plantear una serie de lineamientos que garanticen que los chatbots de IA sean precisos, seguros y confiables.
Actualmente, con este objetivo en mente, la compañía de chips ofrecerá un conjunto de herramientas que permite agregar reglas a las plataformas impulsadas por modelos de lenguaje extenso (LLM), como ChatGPT.
De esa forma, evitarán que un chatbot emita información falsa inexacta y, por el contrario, sus respuestas sean apropiadas y seguras.
TE PUEDE INTERESAR: Google Docs Y Workspace Están Recibiendo Una Nueva Herramienta De Búsqueda
Más sobre la solución de NVIDIA
- Jonathan Cohen, vicepresidente de investigación aplicada de NVIDIA, aseguró en una sesión informativa que ‘NeMo Guardrails’ puede «detectar y mitigar las alucinaciones de los chatbots».
- «No tiene que confiar en que un modelo de lenguaje seguirá un mensaje o seguirá sus instrucciones. En realidad, está codificado en la lógica de ejecución del sistema de barandas lo que sucederá», dijo Cohen.
- El nuevo software de NVIDIA permitirá establecer límites que van desde evitar respuestas que se salgan de lo común, restringir conexiones, restringir conexiones no seguras o prevenir que se ejecute código malicioso.
- De acuerdo con NVIDIA, el software es fácil de usar y cualquier desarrollador puede implementar las plantillas en sus chatbots.
- Las reglas se crean con pocas líneas de código y se aplican a cualquier aplicación que utilice una biblioteca de Python.
- La solución que está planteando NVIDIA se considera que ataca uno de los principales problemas de ChatGPT, evidenciado en estudios que le han realizado a los chatbots, impulsados por inteligencia artificial.
Foto: FOLOU