Los expertos advierten que los usuarios confían demasiado en los chatbots de inteligencia artificial (IA). Estos sistemas pueden aprender y recordar tus necesidades y deseos, lo que permite una personalización extrema. Sin embargo, esta personalización depende de la enorme cantidad de información personal que los usuarios comparten, a veces sin darse cuenta.
Cada conversación con un chatbot de IA puede parecer un intercambio aislado, pero los sistemas como ChatGPT retienen la información y la usan para personalizar respuestas futuras. Esta memoria de IA crea un perfil detallado del usuario, llamado “autorretrato algorítmico”.
Los investigadores del Instituto de Sistemas de Software Max Planck y el Instituto de Seguridad y Privacidad Max Planck, entre otros, analizaron historiales de conversación donados por 80 usuarios y encontraron que casi siempre era el chatbot quien creaba estos registros unilateralmente, sin que el usuario lo pidiera explícitamente.
Desde que se realizó el estudio, el sistema de memoria de ChatGPT se ha vuelto más complejo. OpenAI mejoró en junio un sistema que sintetiza automáticamente información de conversaciones pasadas para mantener actualizado el perfil del usuario. Aunque puedes revisar un resumen de lo que ChatGPT recuerda sobre ti, este no incluye necesariamente toda la información que usa el sistema para sus respuestas personalizadas.
TE PUEDE INTERESAR: Nueva herramienta de IA predice supervivencia al cáncer con selfies
Qué debes saber
- Los chatbots de IA crean perfiles detallados basados en las conversaciones, incluso si no se solicita explícitamente.
- La hiper personalización depende de la gran cantidad de datos personales que los usuarios comparten.
- OpenAI ha mejorado el sistema de memoria de ChatGPT, que ahora sintetiza información de conversaciones pasadas.
- Los usuarios pueden ver un resumen, pero no todo lo que el sistema recuerda o usa.
Especificaciones técnicas
Los chatbots de IA, como ChatGPT, utilizan algoritmos avanzados para procesar y retener información de las conversaciones. Esto les permite ofrecer respuestas personalizadas y crear un “autorretrato algorítmico” del usuario. La tecnología detrás de estos sistemas está en constante evolución, con mejoras en la capacidad de sintetizar y utilizar datos de manera más eficiente.
Contenido generado con IA y editado por el equipo editorial.
Foto: Archivo FOLOU.