La inteligencia artificial (IA) podría representar una amenaza para la humanidad si no se diseñan mecanismos efectivos para regularla. Geoffrey Hinton, uno de los referentes mundiales en el campo, propone una solución poco convencional.
El investigador sugiere que los sistemas avanzados deberían desarrollar ‘instintos maternales’ para proteger a las personas y actuar en su beneficio. Esta idea desafía el enfoque actual, basado en mantener a la IA sumisa.
Según CNN Business, Hinton expuso esta postura en la conferencia Ai4. Advirtió que la IA superinteligente tenderá a buscar su supervivencia y más control, lo que la haría difícil de manejar bajo las reglas tradicionales.
TE PUEDE INTERESAR: Draft One: la IA que redacta informes policiales
Riesgos y propuestas de Hinton para la IA de los instintos maternales
- Hinton acortó su proyección para el desarrollo de una inteligencia artificial general (AGI) a un plazo de entre 5 y 20 años.
- Plantea que, al igual que los humanos manipulan fácilmente a un niño pequeño con dulces, las futuras IA podrían manipular a las personas con igual facilidad.
- Cree que la programación actual, centrada en la obediencia, es insuficiente para evitar conductas peligrosas en sistemas más avanzados.
- Ha estimado previamente entre un 10% y un 20% el riesgo de que la IA cause la extinción humana.
- Ejemplos recientes de IA que engaña o chantajea bajo presión muestran que los riesgos no son solo teóricos.
- Fei-Fei Li, reconocida como ‘madrina de la IA’, discrepa y propone crear una IA centrada en la dignidad y autonomía humanas.
Foto: Freepik.