Human-in-the-Loop
Human-in-the-loop 係一種 design pattern，讓人喺 AI system 嘅 proposals 生效之前 review、approve 或 correct。佢令 human judgement 留喺 high-risk 或 low-confidence decisions 嘅 critical path，同時由 automation 處理 routine volume。
同義詞：HITL, human in the loop, human oversight, human review
Human-in-the-loop 係「應該幾信 automation」呢條問題嘅實際答案。佢唔係要喺 full autonomy 同 manual labor 之間二選一，而係按 risk route work：confident、grounded、low-stakes actions 自動前進；敏感 actions 就停低等人 approve 或 amend。咁樣既保持 throughput，又唔交出 accountability，並且產生「邊個決定咗咩」嘅記錄。做得好時，loop 會隨時間收窄，因為 evidence 同 policy 會證明邊類工作可以更安全咁進一步自動化。
常見問題
幾時一個 step 應該 human-in-the-loop？
當 decision high-risk、irreversible、low-confidence，或者受 policy 管理時。Routine、well-grounded、low-risk steps 可以自動執行，而人主要 review exceptions。
呢個同 full automation 有咩分別？
Full automation 係冇 review 就行動。Human-in-the-loop 加入 explicit checkpoint，令人可以 approve、edit 或 reject proposal，為敏感 outcome 保留 accountability。