Halusinasi
Halusinasi adalah output dari model bahasa yang terdengar yakin tetapi tidak didukung atau direkayasa, yaitu klaim yang tampak masuk akal namun tidak berdasar pada bukti yang diberikan atau kenyataan. Halusinasi adalah risiko utama dalam otomatisasi knowledge work, dan grounding dengan bukti yang dikutip adalah mitigasi utamanya.
Sinonim: AI hallucination, fabrication, confabulation, ungrounded output
Halusinasi terjadi ketika kelancaran melampaui kebenaran. Karena model mengoptimalkan kelanjutan yang masuk akal, ia dapat menghasilkan nama, angka, atau kutipan spesifik yang tidak pernah nyata. Dalam drafting berisiko rendah ini mengganggu; dalam otomatisasi kerja yang dikelola ini adalah kegagalan serius yang dapat menyesatkan keputusan atau memicu tindakan yang salah. Pertahanannya bersifat arsitektural: ambil bukti nyata, batasi generasi pada bukti itu, lampirkan kutipan, dan rancang jalur eksplisit untuk menolak atau mengeskalasi ketika bukti tidak mendukung jawaban.