La inteligencia artificial (IA) está tomando más decisiones y ejecutando tareas con menos intervención humana. Ante este avance, la ONU plantea una pregunta crucial: ¿quién responde si un sistema de IA toma una decisión equivocada y causa daño?
Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, expresó esta preocupación en una carta publicada el 14 de septiembre. El documento se enfoca en sistemas de IA que pueden actuar por su cuenta, recibiendo un objetivo, decidiendo cómo cumplirlo y ejecutando varias acciones sin supervisión humana en cada paso.
El problema surge cuando estos sistemas cometen errores. La ONU propone que siempre debe existir una persona identificable con autoridad para intervenir, modificar o detener el sistema. Además, el documento pide controles antes y después de poner en funcionamiento sistemas avanzados, incluyendo evaluaciones de seguridad, supervisión independiente y mecanismos para reportar e investigar incidentes graves.
TE PUEDE INTERESAR: Jensen Huang de Nvidia: ‘No vamos a permitir que se desacelere la IA’
Qué debes saber
- La ONU plantea la necesidad de tener responsables humanos para decisiones de IA.
- Se piden controles rigurosos, como evaluaciones de seguridad y supervisión independiente.
- Las empresas deben demostrar medidas para controlar riesgos, y los gobiernos deben establecer reglas claras.
Contenido generado con IA y editado por el equipo editorial.
Foto: Archivo FOLOU.