证据引用
证据引用是一种做法,即为 AI 系统所做的每项主张附上可验证的来源参考。每个被引用的段落都链接回它所出自的文档、记录或知识资产,以便人员能够在信任答案或据其行事之前确认答案是有据可依的。
同义词:citation, source attribution, evidence linking, answer provenance
证据引用使生成的答案变得可检查,而不是一个黑箱。系统不会单独给出结论,而是展示支撑该结论的具体段落,每个段落都可追溯到一项受管理的知识资产。这服务于两类受众:审查高风险回复的人员可以在几秒内验证它,而审计跟踪日后可以准确重建是哪项证据为某项操作提供了依据。可靠的引用依赖于稳定的来源标识符和新鲜度元数据,以使一条参考始终解析到实际所用的那个版本。
常见问题
一条引用应当包含什么?
至少应包含来源标识符和所使用的确切段落,最好带有稳定的链接和时间戳,以便审查者能够确认在产生答案时该证据是最新的。
为什么引用对受治理的自动化至关重要?
引用使答案可审计。没有引用,自动化的回复就无法问责;而有了引用,审查者就能验证接地性,审计跟踪也能证明是哪项证据驱动了某个决定。