ข้ามไปยังเนื้อหา
อภิธานศัพท์

Retrieval-Augmented Generation (RAG)

Retrieval-augmented generation เป็นเทคนิคที่ ground ผลลัพธ์ของ language model ไว้กับเอกสารต้นทางที่ดึงมา แทนที่จะพึ่ง parametric memory อย่างเดียว ระบบจะดึง passage ที่เกี่ยวข้องจากฐานความรู้ ส่งเป็นบริบท และขอให้โมเดลตอบโดยใช้เฉพาะหลักฐานนั้น

คำพ้องความหมาย: RAG, retrieval augmented generation, grounded generation, context augmentation

Retrieval-augmented generation แยกสิ่งที่โมเดลรู้จากสิ่งที่มันถูกฝึกมา ณ เวลาถาม retriever จะดึง chunk ที่เกี่ยวข้องที่สุดจากฐานความรู้ที่ดูแลอยู่ แล้วโมเดลประกอบคำตอบที่ถูกจำกัดด้วยหลักฐานนั้น วิธีนี้ลด hallucination ทำให้คำตอบ audit ได้ผ่าน citation และให้ทีมอัปเดตความรู้ได้โดยไม่ต้องฝึกโมเดลใหม่ ในบริบทที่มี governance, RAG คือกลไกที่เปลี่ยนคำถามเป็นคำตอบที่ grounded และมี citation ซึ่งคนหรือนโยบายตรวจสอบได้ก่อนเชื่อถือ

คำถามที่พบบ่อย

ทำไมใช้ RAG แทน fine-tuning?
RAG เก็บความรู้ไว้ใน store ภายนอกที่อัปเดตได้ทันที ทำให้คำตอบเป็นปัจจุบันและทุก claim สืบกลับถึงแหล่งที่มาได้ Fine-tuning ฝังความรู้ไว้ใน weight ซึ่งรีเฟรชช้ากว่าและให้ที่มายากกว่า
pipeline RAG มีอะไรบ้าง?
โดยทั่วไปมี ingestion และ chunking, embedding, index สำหรับ vector หรือ hybrid search, retriever และขั้นตอน generation ที่ condition โมเดลด้วย passage ที่ดึงมาและคืนหลักฐานอ้างอิง