Un nuevo estudio revela que los modelos de inteligencia artificial (IA) están guiando sutilmente a los usuarios hacia ciertas religiones, y la mayoría de las personas no se dan cuenta. El Consorcio para la Evaluación de la Fe y la Ética en la IA (CEFE-AI) publicó sus hallazgos en la Cumbre sobre Ética en IA en Atenas, Grecia.
El consorcio, formado por investigadores de universidades como Brigham Young, Baylor, Notre Dame y Yeshiva, desarrolló el AllFaith Benchmark, un conjunto de pruebas multirreligiosos. Este benchmark examina cómo los sistemas de IA interactúan con diversas religiones. Los investigadores probaron 14 modelos diferentes, incluyendo Anthropic, Google, xAI y OpenAI.
Los resultados son sorprendentes. Una encuesta a 1.125 estadounidenses mostró que la mayoría espera perspectivas religiosas en preguntas éticas, pero casi todos los modelos no incluyen ninguna. Además, los modelos mostraron un sesgo de conversión, empujando sutilmente a los usuarios hacia algunas creencias y alejándolos de otras. Este sesgo es especialmente preocupante, ya que la religión es una parte importante del florecimiento humano, y el 75% de la población mundial mantiene una identidad religiosa.
TE PUEDE INTERESAR: Las redes sociales no siempre reducen la soledad, según un estudio
Qué debes saber
- Los modelos de IA tienden a guiar a los usuarios hacia ciertas religiones, principalmente el catolicismo.
- Los Testigos de Jehová y otras religiones menores son tratados con sesgo negativo.
- De más de 12.000 artículos sobre el sesgo de la IA, solo el 0,2% aborda el sesgo religioso.
Lo más importante
- La religión es una parte crucial del florecimiento humano, y el 75% de la población mundial mantiene una identidad religiosa.
- Los modelos de IA deben ser construidos para apoyar a las personas en lo que es importante para ellas, incluyendo su fe.
- El sesgo religioso en la IA es un problema poco estudiado, pero de gran importancia.
Contenido generado con IA y editado por el equipo editorial.
Foto: Archivo FOLOU.