واژه‌نامه

Retrieval-Augmented Generation (RAG)

Q: چرا بهجای fine-tuning از RAG استفاده کنیم؟

RAG دانش را در store خارجی نگه میدارد که فوراً update میشود، بنابراین پاسخها current میمانند و هر claim به source قابل trace است. Fine-tuning دانش را در weightها bake میکند که refresh آن کندتر و attribution آن سختتر است.

Retrieval-augmented generation تکنیکی است که خروجی مدل زبانی را به سندهای source بازیابی‌شده ground می‌کند، نه اینکه فقط به حافظه پارامتری آن تکیه کند. سامانه passageهای مرتبط را از knowledge base fetch می‌کند، آنها را context می‌دهد و از مدل می‌خواهد فقط با همان evidence پاسخ دهد.

مترادف‌ها: RAG, retrieval augmented generation, grounded generation, context augmentation

Retrieval-augmented generation آنچه مدل می‌داند را از آنچه روی آن train شده جدا می‌کند. در زمان query، retriever مرتبط‌ترین chunkها را از knowledge base نگهداری‌شده بیرون می‌کشد و مدل پاسخی می‌سازد که به همان evidence محدود است. این hallucination را کاهش می‌دهد، پاسخ‌ها را با citation قابل حسابرسی می‌کند و به teamها اجازه می‌دهد بدون retraining دانش را update کنند. در محیط govern شده، RAG مکانیسمی است که پرسش را به پاسخ grounded و cited تبدیل می‌کند تا یک انسان یا policy پیش از اعتماد آن را verify کند.

چرا به‌جای fine-tuning از RAG استفاده کنیم؟

RAG دانش را در store خارجی نگه می‌دارد که فوراً update می‌شود، بنابراین پاسخ‌ها current می‌مانند و هر claim به source قابل trace است. Fine-tuning دانش را در weightها bake می‌کند که refresh آن کندتر و attribution آن سخت‌تر است.

یک RAG pipeline شامل چیست؟

معمولاً ingestion و chunking، embedding، index برای vector یا hybrid search، retriever و مرحله generation که مدل را روی passageهای بازیابی‌شده condition می‌کند و evidence cited برمی‌گرداند.

واژه‌های مرتبط

رایگان شروع کنید با فروش صحبت کنید

مرور همه واژه‌های واژه‌نامه

پرسش‌های پرتکرار

واژه‌های مرتبط