Hallucination
Une hallucination est une sortie assurée mais non étayée ou fabriquée d'un modèle de langage — une affirmation qui semble plausible mais qui n'a aucun fondement dans les preuves fournies ni dans la réalité. Les hallucinations sont le risque central de l'automatisation du travail de connaissance, et l'ancrage avec des preuves citées en est la principale atténuation.
Synonymes : AI hallucination, fabrication, confabulation, ungrounded output
L’hallucination est ce qui se produit lorsque la fluidité dépasse la vérité. Comme un modèle optimise les continuations plausibles, il peut produire des noms, des chiffres ou des citations spécifiques qui n’ont jamais été réels. Dans une rédaction à faible enjeu, c’est une nuisance ; dans l’automatisation gouvernée du travail, c’est une défaillance grave qui peut induire une décision en erreur ou déclencher une mauvaise action. Les défenses sont architecturales : récupérer de vraies preuves, y contraindre la génération, joindre des citations et concevoir une voie explicite pour refuser ou escalader lorsque les preuves ne soutiennent pas une réponse.