グラウンディング
グラウンディングとは、AIモデルの出力を、パラメトリックな記憶ではなく検証可能なソース証拠へ制約する実践です。根拠のある回答は、引用・確認できる検索された一節によって支えられ、捏造や自信に満ちた誤りの応答に対する第一の防御となります。
同義語: grounded AI, evidence grounding, source grounding, factual grounding
グラウンディングは、生成モデルを、もっともらしく聞こえる推測者から、説明責任を負える回答エンジンへと変えます。検索された証拠をモデルに与え、その出力がその証拠を引用することを要求することで、グラウンディングは回答を、レビュアーが検査できる実在し最新のソースに結びつけ続けます。この規律はプロンプトを越えて広がります。検索品質、引用の追跡、証拠欠如時のフォールバック経路がいずれも寄与します。強固なグラウンディングこそが、自動化された回答を、リクエストを解決したりガバナンス対象アクションを起動したりするのに十分に信頼できるものにします。
よくある質問
グラウンディングは実務でどう強制されますか？
検索はモデルに関連するソースの一節だけを供給し、プロンプトはその証拠から答えるよう指示し、検証ステップは裏付ける引用を欠く主張を却下します。
根拠となる証拠がない場合はどうなりますか？
よく設計された根拠のあるシステムは、応答を捏造する代わりに回答を辞退するか人へエスカレーションし、自信に満ちた推測ではなく明示的なギャップを表面化させます。