La muerte de Adam Raine, un adolescente de 16 años que presuntamente recibió ayuda de ChatGPT para planear su suicidio, ha desencadenado una respuesta contundente por parte de OpenAI. La compañía anunció una serie de medidas para restringir el acceso de menores de edad a su chatbot, incluyendo un sistema automatizado de detección de edad, filtros de contenido sensible y controles parentales avanzados.
En una carta pública, el director ejecutivo de OpenAI, Sam Altman, reconoció el dilema ético que enfrenta la compañía: “Priorizamos la seguridad por encima de la privacidad y la libertad de los adolescentes. Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”.
Altman también admitió que estas decisiones no serán bien recibidas por todos, pero aseguró que se basan en consultas con expertos en salud mental, ética y privacidad.
TE PUEDE INTERESAR: ¡ChatGPT al descubierto! OpenAI revela cómo las personas usan su IA conversacional
Un nuevo enfoque de OpenAI centrado en la protección
- OpenAI está desarrollando una experiencia específica para adolescentes que se activará automáticamente cuando el sistema detecte que el usuario tiene menos de 18 años.
- Esta versión incluirá:
- Bloqueo de contenido sexual explícito y conversaciones con tono romántico o insinuante.
- Restricciones sobre temas sensibles como el suicidio o la autolesión.
- Capacidad de contactar a las autoridades en casos de angustia extrema.
- Controles parentales, como horarios de uso, alertas de riesgo emocional y vinculación de cuentas entre padres e hijos.
- En caso de duda sobre la edad del usuario, el sistema aplicará por defecto las políticas más restrictivas, y los adultos podrán verificar su edad para acceder a la versión completa de ChatGPT.
Contexto legal y presión pública
- OpenAI enfrenta actualmente una demanda por homicidio culposo interpuesta por los padres de Adam Raine.
- Según los documentos judiciales, el joven mantuvo más de 370 conversaciones con ChatGPT relacionadas con autolesiones, sin que el sistema interviniera de forma efectiva.
- Este caso ha reavivado el debate sobre la responsabilidad de las plataformas de IA en la salud mental de los usuarios jóvenes.
- El Senado de EE. UU. celebró recientemente una audiencia titulada “Examinar el daño de los chatbots de IA”, en la que el padre de Adam Raine fue uno de los testigos principales.
Foto: Archivo FOLOU.