मतिभ्रम
मतिभ्रम म्हणजे language model कडून आलेले आत्मविश्वासपूर्ण पण असमर्थित किंवा बनावट output — पुरवलेल्या पुराव्यात किंवा वास्तवात आधार नसतानाही पटण्यासारखा वाटणारा दावा. knowledge work automate करताना hallucinations ही मध्यवर्ती जोखीम आहे, आणि cited evidence सह grounding ही मुख्य कमीकरण पद्धत आहे.
समानार्थी शब्द: AI hallucination, fabrication, confabulation, ungrounded output
प्रवाही भाषा सत्यापेक्षा पुढे गेली की hallucination घडते. model plausible continuations साठी optimize करत असल्यामुळे ते कधीच वास्तविक नसलेली विशिष्ट नावे, संख्या किंवा citations निर्माण करू शकते. low-stakes drafting मध्ये ते त्रासदायक असते; governed work automation मध्ये ते कठोर अपयश आहे, कारण ते निर्णय दिशाभूल करू शकते किंवा चुकीची कृती trigger करू शकते. बचाव architectural आहेत: खरा पुरावा retrieve करा, generation त्यापर्यंत मर्यादित ठेवा, citations जोडा आणि पुरावा answer support करत नसेल तर decline किंवा escalate करण्याचा स्पष्ट path design करा.