跳到内容
术语表

接地

接地是一种做法,即将 AI 模型的输出约束到可验证的来源证据,而非其参数化记忆。有据可依的答案由可被引用和核查的检索段落所支撑,这是针对捏造或自信地出错的回复的首要防线。

同义词:grounded AI, evidence grounding, source grounding, factual grounding

接地将生成式模型从一个听起来貌似可信的猜测者,转变为一个可问责的答案引擎。通过向模型提供检索到的证据并要求其输出引用该证据,接地使答案保持与审查者可以检查的真实、最新来源相绑定。这一纪律延伸到提示之外:检索质量、引用跟踪以及在证据缺失时的回退路径都各有贡献。强有力的接地正是让自动化答案足够可信,以解决一项请求或触发一项受治理操作的关键。

常见问题

在实践中如何强制执行接地?
检索只向模型提供相关的来源段落,提示指示它依据该证据作答,而一个验证步骤会拒绝缺乏支撑性引用的主张。
当没有接地证据时会发生什么?
设计良好的接地系统会拒绝作答或上报给人员,而不是编造回复,从而呈现一个明确的缺口,而非自信的猜测。