కంటెంట్‌కు వెళ్లండి
పదకోశం

Retrieval-Augmented Generation (RAG)

Retrieval-augmented generation అనేది language model output ను దాని parametric memory పైనే ఆధారపడనివ్వకుండా retrieved source documents లో ground చేసే technique. System knowledge base నుంచి relevant passages fetch చేసి context గా ఇస్తుంది, model ఆ evidence మాత్రమే ఉపయోగించి answer చేయమని అడుగుతుంది.

పర్యాయపదాలు: RAG, retrieval augmented generation, grounded generation, context augmentation

Retrieval-augmented generation model ఏమి తెలుసుకుంటుందో మరియు అది ఏదిపై train అయిందో వేరు చేస్తుంది. Query time లో retriever maintained knowledge base నుంచి అత్యంత relevant chunks ను తీస్తుంది, model ఆ evidence కి పరిమితమైన answer ను compose చేస్తుంది. ఇది hallucination తగ్గిస్తుంది, citations ద్వారా answers auditable చేస్తుంది, retraining లేకుండా teams knowledge update చేయడానికి వీలు కల్పిస్తుంది. Governed setting లో RAG ప్రశ్నను trusted చేయడానికి ముందు person లేదా policy verify చేయగల grounded, cited response గా మార్చే mechanism.

తరచుగా అడిగే ప్రశ్నలు

fine-tuning బదులు RAG ఎందుకు వాడాలి?
RAG knowledge ను instantly update చేయగల external store లో ఉంచుతుంది; answers current గా ఉంటాయి, ప్రతి claim source కి trace అవుతుంది. Fine-tuning knowledge ను weights లో bake చేస్తుంది, refresh చేయడం మందగిస్తుంది, attribute చేయడం కష్టమవుతుంది.
RAG pipeline లో ఏముంటుంది?
సాధారణంగా ingestion మరియు chunking, embedding, vector లేదా hybrid search కోసం index, retriever, retrieved passages పై model ను condition చేసి cited evidence తో answer return చేసే generation step ఉంటాయి.