Un reciente estudio científico ha demostrado que, a pesar de prometer respuestas objetivas, la inteligencia artificial (IA) puede ofrecer respuestas diferentes sobre temas políticos o sociales. Esto se debe a cómo fueron entrenados y alineados los modelos como ChatGPT, Gemini y Grok.
Los investigadores no sugieren que estos sistemas tengan una ideología propia, sino que las diferencias en las respuestas se deben a la selección de datos utilizados durante el entrenamiento, las reglas de seguridad incorporadas y las decisiones humanas que moldean su comportamiento final. Para los millones de usuarios que ya utilizan la IA, comprender este fenómeno es cada vez más importante.
Para medir el sesgo, los investigadores de la Universidad Libre de Ámsterdam y la Universidad de Oslo utilizaron votaciones reales de parlamentos de España, Noruega y Países Bajos. Los resultados mostraron que la mayoría de los modelos tienden a adoptar posiciones cercanas al centro o con una ligera inclinación hacia la centroizquierda. Estos hallazgos son cruciales para entender cómo la IA puede influir en nuestras decisiones e información.
TE PUEDE INTERESAR: Google Meet lanza ‘Toma notas por mí’ para usuarios individuales
Qué debes saber
- La inteligencia artificial no es completamente neutral y puede mostrar tendencias ideológicas.
- Las diferencias en las respuestas se deben a la selección de datos y al proceso de alineación aplicado por cada empresa.
- Los grandes modelos de lenguaje calculan la palabra más probable basándose en enormes volúmenes de texto extraídos de internet, libros, artículos y otras fuentes.
- El proceso de Reinforcement Learning from Human Feedback (RLHF) también influye en el comportamiento final del chatbot.
- Se recomienda usar la IA como una herramienta de apoyo y no como la única fuente para comprender temas políticos, económicos o sociales.
- Estos hallazgos son importantes porque demuestran que, aunque la IA puede ser una herramienta extraordinariamente útil, sus respuestas también reflejan las decisiones humanas que la hicieron posible.
Contenido generado con IA y editado por el equipo editorial.
Foto: Archivo FOLOU.