Allucinazione
Un'allucinazione è un output sicuro ma non supportato o inventato da un modello linguistico: un'affermazione che sembra plausibile ma non ha base nell'evidenza fornita o nella realtà. Le allucinazioni sono il rischio centrale nell'automatizzare il lavoro di conoscenza, e il grounding con evidenza citata è la mitigazione principale.
Sinonimi: AI hallucination, fabrication, confabulation, ungrounded output
L’allucinazione accade quando la fluidità supera la verità. Poiché un modello ottimizza continuazioni plausibili, può produrre nomi, numeri o citazioni specifiche che non sono mai esistite. Nella scrittura a basso rischio è un fastidio; nell’automazione del lavoro governato è un fallimento serio che può fuorviare una decisione o attivare un’azione sbagliata. Le difese sono architetturali: recuperare evidenza reale, vincolare la generazione a essa, allegare citazioni e progettare un percorso esplicito per rifiutare o scalare quando l’evidenza non sostiene una risposta.