Hallucination
Hallucination خروجی مطمئن اما unsupported یا fabricated از یک مدل زبانی است؛ claimی که plausible به نظر میرسد اما در شواهد ارائهشده یا واقعیت پایهای ندارد. Hallucination ریسک مرکزی در خودکارسازی knowledge work است و grounding با evidence cited مهمترین mitigation آن است.
مترادفها: AI hallucination, fabrication, confabulation, ungrounded output
Hallucination زمانی رخ میدهد که fluency از truth جلو میزند. چون مدل برای continuationهای plausible بهینه میشود، میتواند نامها، عددها یا citationهای مشخصی تولید کند که هرگز واقعی نبودهاند. در drafting کمریسک این یک مزاحمت است؛ در automation کار govern شده یک شکست سخت است که میتواند تصمیم را گمراه یا action غلطی را trigger کند. دفاعها معماریاند: evidence واقعی retrieve کنید، generation را به آن constrain کنید، citation ضمیمه کنید و برای decline یا escalation وقتی evidence پاسخ را پشتیبانی نمیکند مسیر صریح طراحی کنید.