人在回路中
人在回路中是一种设计模式，由人员在 AI 系统的提案生效之前对其进行审查、批准或纠正。它使人的判断在高风险或低置信度的决定上处于关键路径，而由自动化处理常规量。
同义词：HITL, human in the loop, human oversight, human review
人在回路中是对“应当多大程度地信任自动化”这一问题的务实回答。它不在完全自主与人工劳动之间二选一，而是按风险路由工作：自信的、有据可依的、低风险的操作自动继续，而敏感的操作则暂停以待人员批准或修改。这在不让渡问责的前提下保持高吞吐，并产生关于谁决定了什么的记录。做得好时，随着证据和策略证明哪些工作类别可以安全地进一步自动化，这个回路会随时间收紧。
常见问题
何时某个步骤应当采用人在回路中？
每当某个决定属于高风险、不可逆、低置信度或受策略约束时。常规的、有据可依的、低风险的步骤可以自动运行，由人审查异常情况。
这与完全自动化有何不同？
完全自动化在没有审查的情况下行动。人在回路中插入一个明确的检查点，让人员能够批准、编辑或拒绝提案，从而为敏感结果保留问责。