Генерация с дополненным извлечением (RAG)
Генерация с дополненным извлечением — это техника, которая заземляет вывод языковой модели в извлечённых исходных документах, а не полагается исключительно на её параметрическую память. Система извлекает релевантные фрагменты из базы знаний, поставляет их как контекст и просит модель ответить, используя только это свидетельство.
Синонимы: RAG, retrieval augmented generation, grounded generation, context augmentation
Генерация с дополненным извлечением отделяет то, что модель знает, от того, на чём она была обучена. Во время запроса ретривер вытягивает наиболее релевантные чанки из поддерживаемой базы знаний, а модель составляет ответ, ограниченный этим свидетельством. Это снижает галлюцинации, делает ответы поддающимися аудиту через цитаты и позволяет командам обновлять знания без переобучения. В управляемой среде RAG — это механизм, который превращает вопрос в обоснованный, цитируемый ответ, который человек или политика могут верифицировать, прежде чем ему довериться.