跳到内容
术语表

检索增强生成 (RAG)

检索增强生成是一种技术,它将语言模型的输出接地于检索到的源文档,而不是仅依赖其参数化记忆。系统从知识库中获取相关段落,将其作为上下文提供,并要求模型仅使用该证据作答。

同义词:RAG, retrieval augmented generation, grounded generation, context augmentation

检索增强生成将模型所知与其训练所得分离开来。在查询时,检索器从一个维护的知识库中拉取最相关的分块,模型据此组成一个约束于该证据的答案。这减少了幻觉,通过引用使答案可审计,并让团队无需重新训练即可更新知识。在受治理的环境中,RAG 是将一个问题转化为有据可依、带引用的回复的机制,人员或策略可在信任它之前对其进行验证。

常见问题

为什么使用 RAG 而非微调?
RAG 将知识保存在一个可即时更新的外部存储中,使答案保持最新,且每项主张都能追溯到来源。微调将知识烘焙进权重,刷新更慢,归属也更难。
一条 RAG 流水线包含什么?
通常包含摄取与分块、嵌入、用于向量或混合检索的索引、一个检索器,以及一个生成步骤,该步骤将模型以检索到的段落为条件,并返回带引用的证据。