¿Alguna vez le preguntaste algo a una inteligencia artificial y te respondió con total seguridad… pero la información era falsa? Esto tiene un nombre: alucinación de IA.
Los modelos de lenguaje funcionan, prediciendo qué palabra o fragmento de texto debería aparecer después, basándose en los patrones que aprendieron.
Cuando el modelo no tiene información suficiente o la pregunta es ambigua, puede generar una respuesta que suena lógica y convincente, pero que en realidad es incorrecta.
Incluso puede inventar fechas, datos, citas o referencias que parecen reales, investigaciones recientes señalan que algunos sistemas pueden verse incentivados a adivinar antes que reconocer que no saben la respuesta.