Hallucination
hallucination language model کا confident مگر unsupported یا fabricated output ہے: ایسا claim جو plausible لگتا ہے مگر provided evidence یا reality میں basis نہیں رکھتا۔ hallucinations knowledge work automation کا central risk ہیں، اور cited evidence کے ساتھ grounding primary mitigation ہے۔
مترادفات: AI hallucination, fabrication, confabulation, ungrounded output
Hallucination تب ہوتی ہے جب fluency truth سے آگے نکل جائے۔ چونکہ model plausible continuations optimize کرتا ہے، وہ specific names، numbers، یا citations produce کر سکتا ہے جو کبھی real نہیں تھے۔ low-stakes drafting میں یہ nuisance ہے؛ governed work automation میں یہ hard failure ہے جو decision کو mislead کر سکتا ہے یا wrong action trigger کر سکتا ہے۔ defenses architectural ہیں: real evidence retrieve کریں، generation کو اسی تک constrain کریں، citations attach کریں، اور ایسا explicit path design کریں جو evidence answer support نہ کرے تو decline یا escalate کرے۔