Human-in-the-Loop
Human-in-the-loop یک الگوی طراحی است که در آن انسانها proposalهای یک سامانه AI را پیش از اثرگذاری review، approve یا correct میکنند. این الگو judgment انسانی را برای تصمیمهای high-risk یا low-confidence در critical path نگه میدارد، در حالی که automation حجم routine را مدیریت میکند.
مترادفها: HITL, human in the loop, human oversight, human review
Human-in-the-loop پاسخ عملی به این پرسش است که چقدر باید به automation اعتماد کرد. بهجای انتخاب میان autonomy کامل و labor دستی، کار را بر اساس ریسک route میکند: actionهای confident، grounded و low-stakes خودکار پیش میروند، اما موارد حساس برای approve یا amend شدن توسط انسان pause میشوند. این throughput را بالا نگه میدارد بیآنکه accountability را واگذار کند و recordی از اینکه چه کسی چه چیزی را تصمیم گرفته تولید میکند. اگر درست انجام شود، loop در طول زمان tightتر میشود، چون evidence و policy ثابت میکنند کدام دستههای کار برای automation بیشتر امناند.