Glosariusz

Retrieval-Augmented Generation (RAG)

Retrieval-augmented generation to technika, która ugruntowuje wynik modelu językowego w pobranych dokumentach źródłowych zamiast polegać wyłącznie na jego pamięci parametrycznej. System pobiera istotne fragmenty z bazy wiedzy, podaje je jako kontekst i prosi model, aby odpowiadał wyłącznie na podstawie tych dowodów.

Synonimy: RAG, retrieval augmented generation, grounded generation, augmentacja kontekstu

Retrieval-augmented generation oddziela to, co model wie, od tego, na czym został wytrenowany. W czasie zapytania retriever pobiera najbardziej istotne chunki z utrzymywanej bazy wiedzy, a model składa odpowiedź ograniczoną do tych dowodów. Zmniejsza to halucynacje, czyni odpowiedzi audytowalnymi przez cytacje i pozwala zespołom aktualizować wiedzę bez ponownego trenowania. W środowisku z governance RAG jest mechanizmem, który zmienia pytanie w ugruntowaną, cytowaną odpowiedź możliwą do zweryfikowania przez osobę lub politykę, zanim zostanie uznana za wiarygodną.

Dlaczego używać RAG zamiast fine-tuningu?

RAG utrzymuje wiedzę w zewnętrznym magazynie, który można natychmiast aktualizować, więc odpowiedzi pozostają aktualne, a każdą tezę można prześledzić do źródła. Fine-tuning wpisuje wiedzę w wagi, co wolniej się odświeża i trudniej atrybuuje.

Co obejmuje pipeline RAG?

Zwykle ingest i chunking, embedding, indeks dla vector lub hybrid search, retriever oraz krok generowania, który warunkuje model pobranymi fragmentami i zwraca cytowane dowody.

Powiązane pojęcia

Zacznij bezpłatnie Porozmawiaj ze sprzedażą

Przeglądaj wszystkie pojęcia ze słownika

Najczęściej zadawane pytania

Powiązane pojęcia