Lewati ke konten
Glosarium

Retrieval-Augmented Generation (RAG)

Retrieval-augmented generation adalah teknik yang meng-ground output model bahasa pada dokumen sumber yang diambil, bukan hanya mengandalkan memori parametriknya. Sistem mengambil passage relevan dari basis pengetahuan, memasoknya sebagai konteks, dan meminta model menjawab hanya dengan bukti itu.

Sinonim: RAG, retrieval augmented generation, grounded generation, context augmentation

Retrieval-augmented generation memisahkan apa yang diketahui model dari apa yang pernah dilatih padanya. Saat query datang, retriever menarik chunk paling relevan dari basis pengetahuan yang dipelihara, dan model menyusun jawaban yang dibatasi pada bukti itu. Ini mengurangi halusinasi, membuat jawaban dapat diaudit melalui kutipan, dan memungkinkan tim memperbarui pengetahuan tanpa melatih ulang. Dalam lingkungan yang dikelola, RAG adalah mekanisme yang mengubah pertanyaan menjadi respons grounded dan berkutip yang dapat diverifikasi manusia atau kebijakan sebelum dipercaya.

Pertanyaan yang sering diajukan

Mengapa menggunakan RAG alih-alih fine-tuning?
RAG menyimpan pengetahuan di store eksternal yang dapat diperbarui seketika, sehingga jawaban tetap terkini dan setiap klaim dapat ditelusuri ke sumber. Fine-tuning memasukkan pengetahuan ke bobot model, yang lebih lambat disegarkan dan lebih sulit diatribusikan.
Apa isi pipeline RAG?
Biasanya ingestion dan chunking, embedding, indeks untuk vector atau hybrid search, retriever, dan langkah generation yang mengondisikan model pada passage yang diambil serta mengembalikan bukti yang dikutip.