Preguntar a una IA por una fuente concreta y recibir, con total seguridad y buena redacción, una cita de un estudio que nunca existió: eso es una alucinación en el contexto de la inteligencia artificial, el término que describe cuando un modelo de lenguaje genera información falsa o inventada, presentándola con la misma naturalidad y aparente confianza que si fuera un dato verificado.
Por qué ocurre, sin que sea exactamente «un fallo» del sistema
Un LLM no consulta una base de datos de hechos verificados cada vez que responde: genera texto prediciendo, palabra a palabra, qué resulta estadísticamente coherente según los patrones aprendidos durante su entrenamiento. Cuando no tiene información fiable sobre algo concreto, el modelo puede seguir generando una respuesta plausible y bien construida gramaticalmente, aunque el contenido factual sea completamente inventado, precisamente porque su objetivo de fondo es generar texto coherente, no verificar hechos.
Situaciones donde este riesgo aumenta notablemente
- Preguntas sobre datos muy específicos y poco comunes, donde el modelo tiene poca información real de referencia.
- Solicitudes de citas, referencias bibliográficas o estadísticas concretas, un terreno especialmente propenso a este problema.
- Preguntas sobre eventos posteriores a la fecha de entrenamiento del modelo, si no tiene acceso a búsqueda en tiempo real.
- Temas muy de nicho, donde existe poca información disponible en los datos con los que se entrenó el modelo.
Por qué resulta tan difícil de detectar a simple vista
Una alucinación no suena distinta a una respuesta correcta: usa el mismo tono seguro, la misma estructura coherente, a veces incluso detalles muy específicos que parecen aportar credibilidad, aunque sean completamente inventados. Esta indistinguibilidad superficial es precisamente lo que la hace peligrosa para quien confía sin verificar, especialmente en contextos profesionales donde un dato incorrecto puede tener consecuencias reales.
Cómo mitigarlo, sin poder eliminarlo por completo
Pedir explícitamente al modelo que indique cuando no está seguro de un dato, en lugar de inventarlo con la misma confianza que uno verificado. Usar sistemas basados en RAG, que buscan información real antes de responder, reduciendo (aunque sin eliminar del todo) este riesgo. Y, sobre todo, verificar de forma independiente cualquier dato concreto, cifra o cita que vaya a usarse en un contexto donde la precisión importa de verdad, antes de darlo por bueno solo porque suena convincente.