Google decidió eliminar varios resúmenes generados por inteligencia artificial (IA) en sus resultados de búsqueda después de que se descubrieran errores médicos preocupantes. El problema surgió cuando los recuadros llamados ‘AI Overviews’, que aparecen al inicio de las búsquedas, ofrecían información médica incompleta o incorrecta. Un ejemplo destacado fue sobre pruebas de sangre hepática: el sistema daba rangos ‘normales’ sin considerar factores como edad, sexo o historial médico del usuario, lo cual podría llevar a conclusiones erradas y riesgosas.
De acuerdo con el sitio web The Guardian, el funcionamiento de estos resúmenes depende de la capacidad de la IA para interpretar palabras clave y generar respuestas basadas en datos disponibles en Internet. Sin embargo, esta tecnología no entiende el contexto ni distingue entre fuentes confiables y no confiables.
Aunque Google eliminó consultas específicas señaladas como problemáticas, reescribir ligeramente una pregunta podía hacer que el mismo error reapareciera. Esto revela un desafío mayor: la IA aún carece de la precisión necesaria para manejar temas sensibles como la salud humana.
TE PUEDE INTERESAR: Apple confirma que el reinicio de Siri estará impulsado por Gemini
Qué debes saber
- Google eliminó resúmenes de IA tras errores médicos detectados.
- Los AI Overviews ofrecían información sin contexto personalizado.
- Errores reaparecían incluso después de corregir ciertas consultas.
- La falta de precisión pone en duda el uso de IA en temas delicados.
Especificaciones técnicas
- Tecnología detrás de AI Overviews: Procesamiento de lenguaje natural.
- Fuente de datos: Información indexada en internet.
- Problema principal: Falta de comprensión contextual y validación.
Contenido generado con IA y editado por el equipo editorial.
Foto: Archivo FOLOU.