Ruka hadi kwenye maudhui
Kamusi

Retrieval-Augmented Generation (RAG)

Retrieval-augmented generation ni mbinu inayoweka matokeo ya language model kwenye msingi wa hati chanzo zilizorejeshwa badala ya kutegemea kumbukumbu yake ya parametric pekee. Mfumo huchukua passages husika kutoka knowledge base, huzitoa kama context, na kuiomba model ijibu kwa kutumia ushahidi huo pekee.

Visawe: RAG, retrieval augmented generation, grounded generation, context augmentation

Retrieval-augmented generation hutenganisha kile model inachojua na kile ilichofunzwa nacho. Wakati wa query, retriever huchukua chunks husika zaidi kutoka knowledge base inayotunzwa, na model hutunga jibu linalozuiwa kwenye ushahidi huo. Hii hupunguza hallucination, hufanya majibu yakaguliwe kupitia citations, na huruhusu timu kusasisha maarifa bila kufundisha model upya. Katika mazingira yanayotawaliwa, RAG ndiyo njia inayogeuza swali kuwa jibu lililo-grounded na lenye citations ambalo mtu au sera anaweza kuthibitisha kabla halijaaminiwa.

Maswali yanayoulizwa mara kwa mara

Kwa nini kutumia RAG badala ya fine-tuning?
RAG huweka maarifa kwenye hifadhi ya nje unayoweza kusasisha papo hapo, hivyo majibu hubaki ya sasa na kila dai linaweza kufuatiliwa hadi chanzo. Fine-tuning hufunga maarifa kwenye weights, jambo ambalo ni polepole kusasisha na gumu kuhusisha na chanzo.
RAG pipeline hujumuisha nini?
Kwa kawaida ingestion na chunking, embedding, index ya vector au hybrid search, retriever, na hatua ya generation inayoiweka model kwenye passages zilizorejeshwa na kurudisha ushahidi ulionukuliwa.