Halüsinasyon
Halüsinasyon, bir dil modelinin kendinden emin ama desteksiz veya uydurulmuş çıktısıdır — akla yatkın görünen ama sağlanan kanıtta ya da gerçeklikte temeli olmayan bir iddia. Halüsinasyonlar, bilgi işini otomatikleştirmenin merkezî riskidir ve alıntılanmış kanıtla temellendirme birincil hafifletme yoludur.
Eşanlamlılar: AI hallucination, fabrication, confabulation, ungrounded output
Halüsinasyon, akıcılık gerçeği geride bıraktığında olan şeydir. Bir model akla yatkın devamlar için en iyiye doğru ayarlandığından, asla gerçek olmamış belirli isimler, sayılar veya alıntılar üretebilir. Düşük bahisli taslaklamada bu bir sıkıntıdır; yönetişimli iş otomasyonunda ise bir kararı yanıltabilen veya yanlış bir eylemi tetikleyebilen ağır bir başarısızlıktır. Savunmalar mimaridir: gerçek kanıtı geri getirin, üretimi ona kısıtlayın, alıntılar ekleyin ve kanıt bir yanıtı desteklemediğinde reddetmek veya yükseltmek için açık bir yol tasarlayın.