Con người trong vòng lặp
Human-in-the-loop là mẫu thiết kế trong đó con người rà soát, phê duyệt hoặc sửa đề xuất của hệ thống AI trước khi đề xuất có hiệu lực. Nó giữ phán đoán của con người trên đường tới hạn cho quyết định rủi ro cao hoặc độ tin cậy thấp, trong khi tự động hóa xử lý khối lượng thường lệ.
Từ đồng nghĩa: HITL, human in the loop, human oversight, human review
Human-in-the-loop là câu trả lời thực tế cho câu hỏi nên tin tự động hóa đến mức nào. Thay vì chọn giữa tự chủ hoàn toàn và lao động thủ công, nó định tuyến công việc theo rủi ro: hành động tự tin, grounded và rủi ro thấp đi tiếp tự động, còn hành động nhạy cảm tạm dừng để con người phê duyệt hoặc sửa. Cách này giữ throughput cao mà không từ bỏ trách nhiệm giải trình, đồng thời tạo bản ghi ai đã quyết định điều gì. Làm tốt, vòng lặp sẽ chặt hơn theo thời gian khi bằng chứng và chính sách chứng minh loại công việc nào đủ an toàn để tự động hóa thêm.