Alucinação
Uma alucinação é uma saída confiante, mas sem suporte ou fabricada, de um modelo de linguagem — uma afirmação que soa plausível, mas não tem base na evidência fornecida ou na realidade. As alucinações são o risco central na automação do trabalho de conhecimento, e a fundamentação com evidência citada é a mitigação principal.
Sinónimos: AI hallucination, fabrication, confabulation, ungrounded output
A alucinação é o que acontece quando a fluência supera a verdade. Como um modelo se otimiza para continuações plausíveis, ele pode produzir nomes, números ou citações específicos que nunca foram reais. Na redação de baixo risco isso é um incômodo; na automação governada do trabalho é uma falha grave que pode induzir ao erro em uma decisão ou acionar uma ação errada. As defesas são arquiteturais: recuperar evidência real, restringir a geração a ela, anexar citações e projetar um caminho explícito para recusar ou escalar quando a evidência não sustenta uma resposta.