Retrieval-Augmented Generation (RAG)
Retrieval-augmented generation là kỹ thuật grounding đầu ra của mô hình ngôn ngữ vào tài liệu nguồn được truy xuất thay vì chỉ dựa vào trí nhớ tham số. Hệ thống lấy các đoạn liên quan từ kho tri thức, cung cấp chúng làm ngữ cảnh và yêu cầu mô hình trả lời chỉ bằng bằng chứng đó.
Từ đồng nghĩa: RAG, retrieval augmented generation, grounded generation, context augmentation
Retrieval-augmented generation tách điều mô hình biết khỏi điều nó đã được huấn luyện. Khi có query, retriever kéo các chunk liên quan nhất từ kho tri thức được duy trì, và mô hình soạn câu trả lời bị ràng buộc bởi bằng chứng đó. Cách này giảm ảo giác, làm câu trả lời có thể kiểm toán qua trích dẫn, và cho phép đội ngũ cập nhật tri thức mà không huấn luyện lại. Trong bối cảnh được quản trị, RAG là cơ chế biến một câu hỏi thành phản hồi grounded, có trích dẫn, để con người hoặc chính sách xác minh trước khi tin.