¿Qué mide el Hallucination Leaderboard de Vectara?
Cuántas veces un modelo de lenguaje dice algo no respaldado por el texto original( en otras palabras cuando te inventan algo los modelos de IA).
Una métrica clave para entender la precisión factual de la IA.
📊 En 2023, algunos modelos tenían hasta 8% de alucinaciones.
📉 En 2025, los mejores ya bajaron de 1%.
Un avance enorme, logrado gracias a nuevas arquitecturas y clasificadores como HHEM, que detectan inconsistencias antes de publicarlas.
Pero ojo: las alucinaciones no van a desaparecer del todo.
Son parte del proceso de razonamiento probabilístico de los modelos, siuna forma de “imaginar” lo que falta cuando el contexto es incompleto.
Y eso, bien gestionado, no es un defecto… es una oportunidad para mejorar el diálogo entre humanos y máquinas.
💡 Lo importante no es eliminarlas, sino aprender a medirlas y reducir su impacto con buenas prácticas de retrieval, filtros de evidencia y revisión humana.
👉 Las alucinaciones son la sombra del pensamiento generativo.
Si aprendemos a leerlas, también aprendemos a confiar mejor.
¿Cuàl es la halucinaciòn mas evidente con la que te has topado?
https://lnkd.in/ehyTzs3t