Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation ist eine Technik, die die Ausgabe eines Sprachmodells in abgerufenen Quelldokumenten erdet, statt sich allein auf sein parametrisches Gedächtnis zu verlassen. Das System holt relevante Passagen aus einer Wissensbasis, liefert sie als Kontext und bittet das Modell, ausschließlich anhand dieser Belege zu antworten.
Synonyme: RAG, retrieval augmented generation, grounded generation, context augmentation
Retrieval-Augmented Generation trennt, was ein Modell weiß, von dem, womit es trainiert wurde. Zur Abfragezeit zieht der Retriever die relevantesten Chunks aus einer gepflegten Wissensbasis, und das Modell verfasst eine Antwort, die auf diese Belege beschränkt ist. Das reduziert Halluzinationen, macht Antworten durch Zitierungen prüfbar und lässt Teams Wissen aktualisieren, ohne neu zu trainieren. In einer geregelten Umgebung ist RAG der Mechanismus, der eine Frage in eine geerdete, zitierte Antwort verwandelt, die eine Person oder Richtlinie prüfen kann, bevor man ihr vertraut.