接地
Grounding 係將 AI model 嘅 output 限制喺可驗證 source evidence,而唔係倚賴佢嘅 parametric memory。Grounded answer 由 retrieved passages 支持,可以引用同檢查,係對抗 fabricated 或 confident wrong responses 嘅主要防線。
同義詞:grounded AI, evidence grounding, source grounding, factual grounding
Grounding 令 generative model 由聽落合理嘅猜測器,變成 accountable answer engine。透過將 retrieved evidence 提供畀 model,並要求 output cite 呢啲 evidence,grounding 令答案連住真實、最新、可供 reviewer 檢查嘅 sources。呢套紀律唔止係 prompt:retrieval quality、citation tracking、同 missing evidence 嘅 fallback path 都有份。強 grounding 令 automated answer 可信到可以 resolve request,或者 trigger governed action。
常見問題
實際上點樣 enforce grounding?
Retrieval 只提供 relevant source passages 畀 model,prompt 指示佢根據呢啲 evidence 回答,而 verification step 會拒絕冇 supporting citation 嘅 claims。
如果冇 grounding evidence 會點?
設計良好嘅 grounded system 會拒絕回答或者 escalate 畀人,而唔係編造 response;佢會顯示 explicit gap,而唔係 confident guess。