Grounding
Grounding은 AI 모델의 출력을 그 모델의 파라메트릭 메모리가 아니라 검증 가능한 원천 증거에 묶어 두는 관행입니다. grounded 답변은 인용하고 확인할 수 있는 검색 passage로 뒷받침되며, 조작되었거나 자신 있게 틀린 응답에 대한 주요 방어입니다.
동의어: grounded AI, evidence grounding, source grounding, factual grounding
Grounding은 생성 모델을 그럴듯한 추측기에서 책임 있는 답변 엔진으로 바꿉니다. 검색된 증거를 모델에 제공하고 출력이 그 증거를 인용하도록 요구함으로써, grounding은 답변을 검토자가 확인할 수 있는 실제 최신 출처에 묶어 둡니다. 이 규율은 prompt를 넘어섭니다. 검색 품질, 인용 추적, 증거가 없을 때의 fallback 경로가 모두 기여합니다. 강한 grounding은 자동화된 답변이 요청을 해결하거나 거버넌스 작업을 트리거할 만큼 신뢰 가능하게 만드는 요소입니다.
자주 묻는 질문
실무에서 grounding은 어떻게 강제되나요?
검색은 관련 source passage만 모델에 제공하고, prompt는 그 증거에서만 답하라고 지시하며, 검증 단계는 supporting citation이 없는 주장을 거부합니다.
Grounding 증거가 없으면 어떻게 되나요?
잘 설계된 grounded 시스템은 응답을 지어내기보다 답변을 거절하거나 사람에게 escalation하며, 확신 있는 추측 대신 명시적인 빈틈을 드러냅니다.