Empresas tecnológicas como Meta, Google y X están invirtiendo fuertemente en herramientas de inteligencia artificial (IA) para detectar noticias falsas. Sin embargo, un estudio de la Université de Montréal, dirigido por la investigadora Dorsaf Sallami, muestra que estos sistemas no fact-checkean realmente, sino que calculan probabilidades basadas en sus datos de entrenamiento. Esto significa que pueden reflejar los mismos sesgos y ceguera que tienen en sus datos de entrenamiento.
La investigación también destaca que muchos de estos sistemas presentan sesgos ocultos, como la tendencia a etiquetar más a las mujeres como fuentes de desinformación o a ser parciales contra fuentes no occidentales.
Además, se basan en etiquetas de organizaciones de verificación de hechos, algunas de las cuales carecen de transparencia y son empresas de lucro. Con la aparición de herramientas como ChatGPT, que facilitan la creación de contenido falso, estos sistemas pueden quedar rápidamente obsoletos.
TE PUEDE INTERESAR: Google revela los mejores modelos de IA para desarrollar apps Android
Qué debes saber
- Los detectores de noticias falsas no fact-checkean, solo calculan probabilidades.
- Tienen sesgos que pueden afectar su precisión.
- Se basan en etiquetas de organizaciones de verificación, algunas con falta de transparencia.
- Herramientas como ChatGPT complican aún más su efectividad.
Especificaciones técnicas
- Aletheia, una extensión de navegador desarrollada por Sallami, ofrece una alternativa más transparente, logrando un 85% de fiabilidad en pruebas.
- Aletheia explica por qué el contenido puede ser sospechoso, en lugar de dar un veredicto directo.
- Incluye una fuente de fact-checks recientes y un foro comunitario para discutir hallazgos.
Contenido generado con IA y editado por el equipo editorial.
Foto: Hartono Creative Studio en Unsplash.