হ্যালুসিনেশন
হ্যালুসিনেশন হলো একটি ভাষা-মডেলের একটি আত্মবিশ্বাসী কিন্তু অসমর্থিত বা বানানো আউটপুট — একটি দাবি যা যুক্তিসঙ্গত শোনায় তবু প্রদত্ত প্রমাণ বা বাস্তবতায় যার কোনো ভিত্তি নেই। হ্যালুসিনেশন জ্ঞান-কাজ স্বয়ংক্রিয়করণে কেন্দ্রীয় ঝুঁকি, এবং উদ্ধৃত প্রমাণসহ ভিত্তিকরণ প্রাথমিক প্রশমন।
সমার্থক: AI hallucination, fabrication, confabulation, ungrounded output
হ্যালুসিনেশন তখনই ঘটে যখন সাবলীলতা সত্যকে ছাড়িয়ে যায়। যেহেতু একটি মডেল যুক্তিসঙ্গত ধারাবাহিকতার জন্য অপ্টিমাইজ করে, এটি এমন নির্দিষ্ট নাম, সংখ্যা বা উদ্ধৃতি তৈরি করতে পারে যা কখনও বাস্তব ছিল না। কম-ঝুঁকির খসড়ায় এটি একটি বিরক্তি; শাসিত কাজ স্বয়ংক্রিয়করণে এটি একটি গুরুতর ব্যর্থতা যা একটি সিদ্ধান্তকে বিভ্রান্ত করতে বা একটি ভুল ক্রিয়া ট্রিগার করতে পারে। প্রতিরক্ষাগুলো স্থাপত্যগত: বাস্তব প্রমাণ পুনরুদ্ধার করুন, জনন সেই অনুযায়ী সীমাবদ্ধ করুন, উদ্ধৃতি সংযুক্ত করুন, এবং একটি স্পষ্ট পথ নকশা করুন যাতে প্রমাণ একটি উত্তর সমর্থন না করলে অস্বীকার বা এসকেলেট করা যায়।