Human-in-the-Loop
Human-in-the-loop은 AI 시스템의 제안이 효력을 갖기 전에 사람이 검토, 승인 또는 수정하는 설계 패턴입니다. 자동화가 routine volume을 처리하는 동안, 고위험 또는 낮은 confidence 결정의 critical path에는 인간 판단을 유지합니다.
동의어: HITL, human in the loop, human oversight, human review
Human-in-the-loop은 자동화를 얼마나 신뢰할 것인가라는 질문에 대한 실용적 답입니다. 완전 자율성과 수작업 사이에서 선택하는 대신 위험에 따라 작업을 라우팅합니다. 자신 있고, 근거가 있으며, 낮은 위험의 작업은 자동으로 진행하고, 민감한 작업은 사람이 승인하거나 수정하도록 멈춥니다. 이렇게 하면 책임성을 포기하지 않으면서 처리량을 높게 유지하고, 누가 무엇을 결정했는지 기록을 남깁니다. 잘 설계된 loop는 시간이 지나며 증거와 정책이 더 자동화해도 안전한 업무 범주를 입증할수록 더 단단해집니다.
자주 묻는 질문
언제 단계가 human-in-the-loop이어야 하나요?
결정이 고위험, 되돌릴 수 없음, 낮은 confidence 또는 정책 지배 대상일 때입니다. routine하고 근거가 충분하며 위험이 낮은 단계는 자동으로 실행하고 사람은 예외를 검토할 수 있습니다.
완전 자동화와는 어떻게 다른가요?
완전 자동화는 검토 없이 행동합니다. Human-in-the-loop은 사람이 제안을 승인, 수정 또는 거부할 수 있는 명시적 checkpoint를 삽입해 민감한 결과에 대한 책임성을 유지합니다.