Hallucination
Ang hallucination ay confident ngunit walang suporta o gawa-gawang output mula sa language model — claim na mukhang kapani-paniwala pero walang batayan sa ibinigay na ebidensiya o sa realidad. Ito ang pangunahing risk sa pag-automate ng knowledge work, at grounding na may cited evidence ang pangunahing mitigation.
Mga kasingkahulugan: AI hallucination, fabrication, confabulation, ungrounded output
Ang hallucination ang nangyayari kapag nauunahan ng pagiging fluent ang katotohanan. Dahil nag-o-optimize ang model para sa plausible continuations, kaya nitong gumawa ng tiyak na pangalan, numero, o citation na hindi naman tunay. Sa low-stakes drafting, istorbo ito; sa governed work automation, hard failure ito na maaaring magligaw ng decision o mag-trigger ng maling action. Architectural ang depensa: kumuha ng tunay na ebidensiya, limitahan doon ang generation, maglakip ng citations, at magdisenyo ng explicit path para tumanggi o mag-escalate kapag hindi sinusuportahan ng ebidensiya ang sagot.