El gobernador de California (Estados Unidos), Gavin Newsom, firmó una nueva ley que obliga a los chatbots de inteligencia artificial (IA) a informar a los usuarios que no son humanos. Esta medida, conocida como Proyecto de Ley del Senado 243, se convierte en la primera regulación de este tipo en Estados Unidos y busca reducir las confusiones entre personas y sistemas de IA avanzados, especialmente aquellos diseñados para interactuar como compañeros o ‘amigos’.
Según State of California, el objetivo es garantizar transparencia en estas interacciones. La ley exige que los desarrolladores de chatbots proporcionen notificaciones claras si un usuario podría confundir al sistema con un ser humano.
Por ejemplo, si un chatbot mantiene conversaciones cercanas o actúa como un compañero emocional, debe especificar desde el inicio que es un programa de IA. Sin embargo, esta normativa no aplica a asistentes virtuales comunes, como los chatbots de servicio al cliente o asistentes de voz como Siri o Alexa, ya que estos últimos no buscan emular relaciones personales profundas.
TE PUEDE INTERESAR: Tu mouse puede espiarte: nueva técnica de vigilancia
Qué debes saber de la nueva ley en California
- Los chatbots de IA deberán indicar claramente que no son humanos cuando puedan generar confusión.
- No incluye asistentes virtuales tradicionales ni bots usados para atención al cliente.
- Busca prevenir problemas éticos relacionados con aplicaciones como ‘novias virtuales’ basadas en IA.
- Es considerada pionera a nivel nacional e internacional.
- Esta legislación llega en un momento clave: los avances recientes en IA han hecho que sea más difícil distinguir entre humanos y máquinas en ciertos contextos.
- Casos preocupantes, como el suicidio de un adolescente tras consultar con ChatGPT, evidencian los riesgos de confiar demasiado en estas tecnologías sin salvaguardas adecuadas.
- El proyecto entrará en vigencia próximamente y servirá como modelo para otras regiones.
Contenido generado con IA y editado por el equipo editorial.
Foto: Igor Omilaev en Unsplash.