विभ्रम
विभ्रम किसी भाषा-मॉडल का एक आत्मविश्वासी पर असमर्थित या गढ़ा हुआ आउटपुट है — एक दावा जो प्रशंसनीय लगता है फिर भी जिसका प्रदत्त साक्ष्य या वास्तविकता में कोई आधार नहीं होता। विभ्रम ज्ञान-कार्य के स्वचालन में केंद्रीय जोखिम हैं, और उद्धृत साक्ष्य के साथ आधारण प्राथमिक शमन है।
पर्यायवाची: AI hallucination, fabrication, confabulation, ungrounded output
विभ्रम वह है जो तब घटित होता है जब प्रवाहिता सत्य से आगे निकल जाती है। चूँकि कोई मॉडल प्रशंसनीय निरंतरताओं के लिए अनुकूलन करता है, वह ऐसे विशिष्ट नाम, संख्याएँ या उद्धरण उत्पन्न कर सकता है जो कभी वास्तविक थे ही नहीं। कम-दांव वाले प्रारूपण में यह एक झंझट है; शासित कार्य-स्वचालन में यह एक गंभीर विफलता है जो किसी निर्णय को भ्रमित कर सकती है या किसी गलत कार्रवाई को ट्रिगर कर सकती है। बचाव वास्तुशिल्पीय हैं: वास्तविक साक्ष्य पुनःप्राप्त करें, जनन को उसी तक सीमित करें, उद्धरण संलग्न करें, और एक स्पष्ट पथ रचें जिससे जब साक्ष्य किसी उत्तर का समर्थन न करे तो मना किया जा सके या उत्क्रमित किया जा सके।