Retrieval-Augmented Generation (RAG)
Retrieval-augmented generation은 언어 모델의 output을 파라메트릭 메모리에만 의존하지 않고 검색된 source document에 grounding하는 기법입니다. 시스템은 knowledge base에서 관련 passage를 가져와 context로 제공하고, 모델에게 그 증거만 사용해 답하라고 요청합니다.
동의어: RAG, retrieval augmented generation, grounded generation, context augmentation
Retrieval-augmented generation은 모델이 아는 것과 훈련받은 것을 분리합니다. query time에 retriever는 유지 관리되는 knowledge base에서 가장 관련 있는 chunk를 가져오고, 모델은 그 증거에 제한된 답변을 구성합니다. 이는 hallucination을 줄이고, citation을 통해 답변을 감사 가능하게 하며, team이 재학습 없이 지식을 업데이트할 수 있게 합니다. 거버넌스 환경에서 RAG는 질문을 사람이든 policy든 신뢰하기 전에 검증할 수 있는 grounded, cited response로 바꾸는 메커니즘입니다.
자주 묻는 질문
Fine-tuning 대신 RAG를 왜 사용하나요?
RAG는 지식을 즉시 업데이트할 수 있는 외부 store에 유지하므로 답변이 최신 상태를 유지하고 모든 주장을 source로 추적할 수 있습니다. Fine-tuning은 지식을 weight에 굳혀 새로고침이 느리고 attribution이 어렵습니다.
RAG pipeline에는 무엇이 포함되나요?
일반적으로 ingestion과 chunking, embedding, vector 또는 hybrid search용 index, retriever, 그리고 검색된 passage로 모델을 조건화하고 cited evidence를 반환하는 generation 단계가 포함됩니다.