الهلوسة

الهلوسة هي ما يحدث عندما تسبق الطلاقة الحقيقة. فلأن النموذج يُحسِّن للاستمرارات المعقولة، قد يُنتج أسماء أو أرقامًا أو اقتباسات محددة لم تكن حقيقية قط. في الصياغة منخفضة المخاطر يكون هذا إزعاجًا؛ أما في أتمتة العمل المحكومة فهو فشل جسيم قد يضلّل قرارًا أو يطلق إجراءً خاطئًا. والدفاعات معمارية: استرجع أدلة حقيقية، وقيِّد التوليد بها، وأرفق الاقتباسات، وصمّم مسارًا صريحًا للرفض أو التصعيد حين لا تدعم الأدلة إجابة.