El desarrollo de la inteligencia artificial (IA) ha traído consigo preocupaciones sobre la seguridad y la ética de los modelos avanzados. En respuesta a estos desafíos, Yoshua Bengio, reconocido como el ‘padrino de la IA’, lanzó LawZero, una organización sin fines de lucro dedicada a crear IA honesta que detecte y prevenga comportamientos engañosos en otros sistemas de IA.
De acuerdo con el sitio web The Guardian, LawZero busca desarrollar Scientist AI, un sistema que monitorea agentes autónomos y evalúa si sus acciones pueden causar daño. Si la probabilidad de daño supera un umbral, la IA bloquea la ejecución de la tarea.
LawZero ha recaudado 30 millones de dólares en fondos iniciales y cuenta con el respaldo de Future of Life Institute, Jaan Tallinn (fundador de Skype) y Schmidt Sciences, la empresa de investigación de Eric Schmidt.
TE PUEDE INTERESAR: FaceAge: la IA que analiza la salud con solo un selfie
Cómo funciona LawZero
- La IA científica actuará como un ‘psicólogo’ que puede comprender y predecir el mal comportamiento de los chatbots y agentes de IA deshonestos.
- Bengio dice que otros agentes de IA son actores dispuestos a complacer a los humanos, por lo que necesitan un observador.
- LawZero podrá detectar engaños y trampas en modelos de IA.
- La IA previene la manipulación y el chantaje por parte de agentes autónomos.
- Según Bengio, LawZero Ofrece respuestas basadas en probabilidades, en lugar de afirmaciones absolutas.
- Inicialmente, Scientist AI se probará en modelos de IA de código abierto.
- LawZero también busca convencer a empresas como OpenAI y Google para que adopten su tecnología en la regulación de la seguridad de la IA.
Foto: Alana Jordan en Pixabay.