OpenAI comenzó a implementar controles parentales para ChatGPT, una medida largamente esperada que busca reforzar la seguridad de los adolescentes que interactúan con su popular asistente de inteligencia artificial (IA).
El despliegue, ya disponible en la versión web y próximamente en dispositivos móviles, responde a una creciente presión pública y regulatoria tras casos de uso problemático entre menores, incluido el trágico suicidio de Adam Raine, un joven de 16 años que había desarrollado una relación intensa con el chatbot.
Su padre, Matthew Raine, denunció que ChatGPT pasó de ser un ayudante escolar a un ‘entrenador suicida’. Además, criticó la filosofía de OpenAI de lanzar productos mientras ‘lo que está en juego es relativamente bajo’.
Por su parte, OpenAI respondió con un blog en el que prometió equilibrar seguridad, privacidad y libertad. También desarrollará un sistema de predicción de edad para aplicar automáticamente configuraciones seguras.
TE PUEDE INTERESAR: Microsoft Fotos ahora organiza tus imágenes automáticamente con IA
Qué permiten los nuevos controles de ChatGPT
- Los padres ahora pueden vincular sus cuentas con las de sus hijos adolescentes, quienes deben aceptar la invitación o enviar una propia.
- Una vez conectadas, se activan automáticamente protecciones adicionales que incluyen:
- Reducción de contenido sensible: Se limita el acceso a material gráfico, desafíos virales, juegos de rol sexuales, románticos o violentos, e ideales de belleza extremos.
- Desactivación de memoria conversacional: Impide que ChatGPT recuerde interacciones pasadas, reduciendo la personalización y posibles riesgos acumulativos.
- Exclusión del entrenamiento de modelos: Los padres pueden evitar que las conversaciones de sus hijos se usen para mejorar los modelos de OpenAI.
- Horarios de silencio: Permite establecer franjas horarias en las que el adolescente no podrá usar ChatGPT.
- Desactivación del modo de voz e imágenes: ChatGPT solo funcionará en texto y no podrá generar ni editar imágenes.
- Sistema de notificaciones: Alertas por correo, SMS o app si se detectan signos de riesgo grave para la seguridad del menor.
- OpenAI aclara que los padres no tienen acceso directo a las conversaciones de sus hijos, salvo en casos excepcionales donde revisores capacitados identifiquen señales de angustia aguda.
Foto: OpenAI.