ヒューマン・イン・ザ・ループ
ヒューマン・イン・ザ・ループとは、AIシステムの提案が効力を持つ前に、人がレビュー・承認・修正する設計パターンです。高リスクまたは低信頼度の判断について人の判断をクリティカルパスに保ちつつ、定型的な量は自動化が処理します。
同義語: HITL, human in the loop, human oversight, human review
ヒューマン・イン・ザ・ループは、自動化をどこまで信頼するかという問いへの実務的な答えです。完全な自律と手作業のどちらかを選ぶのではなく、リスクで作業を回送します。自信があり根拠があり低リスクのアクションは自動的に進み、機微なものは人が承認または修正するために一時停止します。これは説明責任を手放さずにスループットを高く保ち、誰が何を決めたかの記録を生み出します。うまく行えば、証拠とポリシーがどの作業カテゴリーをさらに自動化しても安全かを証明するにつれ、ループは時とともに引き締まっていきます。
よくある質問
ステップはいつヒューマン・イン・ザ・ループであるべきですか？
判断が高リスク・不可逆・低信頼度、またはポリシーによって統制される場合は常にです。定型的で十分に根拠があり低リスクのステップは自動実行でき、人は例外をレビューします。
これは完全自動化とどう違いますか？
完全自動化はレビューなしに動作します。ヒューマン・イン・ザ・ループは、人が提案を承認・編集・却下できる明示的なチェックポイントを挿入し、機微な成果について説明責任を保ちます。