Ảo giác
Ảo giác là đầu ra của mô hình ngôn ngữ nghe tự tin nhưng không được hỗ trợ hoặc bị bịa đặt, tức một khẳng định có vẻ hợp lý nhưng không có cơ sở trong bằng chứng được cung cấp hoặc thực tế. Ảo giác là rủi ro trung tâm khi tự động hóa knowledge work, và grounding bằng bằng chứng được trích dẫn là biện pháp giảm thiểu chính.
Từ đồng nghĩa: AI hallucination, fabrication, confabulation, ungrounded output
Ảo giác xảy ra khi sự trôi chảy vượt qua sự thật. Vì mô hình tối ưu cho phần tiếp theo có vẻ hợp lý, nó có thể tạo tên, con số hoặc trích dẫn cụ thể vốn chưa bao giờ tồn tại. Trong soạn thảo rủi ro thấp, đây là phiền toái; trong tự động hóa công việc được quản trị, đây là lỗi nghiêm trọng có thể làm lệch quyết định hoặc kích hoạt hành động sai. Phòng vệ nằm ở kiến trúc: truy xuất bằng chứng thật, ràng buộc generation vào bằng chứng đó, gắn trích dẫn và thiết kế đường rõ ràng để từ chối hoặc escalation khi bằng chứng không hỗ trợ câu trả lời.