Alucinación
Una alucinación es una salida segura pero no respaldada o fabricada de un modelo de lenguaje: una afirmación que suena plausible pero que no tiene base en la evidencia proporcionada ni en la realidad. Las alucinaciones son el riesgo central al automatizar el trabajo de conocimiento, y la fundamentación con evidencia citada es la mitigación principal.
Sinónimos: AI hallucination, fabrication, confabulation, ungrounded output
La alucinación es lo que ocurre cuando la fluidez supera a la verdad. Como un modelo se optimiza para continuaciones plausibles, puede producir nombres, números o citas específicos que nunca fueron reales. En la redacción de bajo riesgo esto es una molestia; en la automatización gobernada del trabajo es un fallo grave que puede inducir a error en una decisión o desencadenar una acción equivocada. Las defensas son arquitectónicas: recuperar evidencia real, restringir la generación a ella, adjuntar citas y diseñar una vía explícita para declinar o escalar cuando la evidencia no respalda una respuesta.