Человек в контуре
Человек в контуре — это паттерн проектирования, при котором люди проверяют, одобряют или исправляют предложения ИИ-системы до того, как они вступят в силу. Он удерживает человеческое суждение на критическом пути для решений высокого риска или низкой уверенности, тогда как автоматизация обрабатывает рутинный объём.
Синонимы: HITL, human in the loop, human oversight, human review
Человек в контуре — это практический ответ на вопрос о том, насколько доверять автоматизации. Вместо выбора между полной автономией и ручным трудом он направляет работу по риску: уверенные, обоснованные, низкорисковые действия продолжаются автоматически, тогда как чувствительные приостанавливаются, чтобы человек одобрил или изменил. Это сохраняет высокую пропускную способность, не уступая подотчётности, и порождает запись о том, кто что решил. При хорошем исполнении контур со временем сужается по мере того, как свидетельства и политика доказывают, какие категории работы безопасно автоматизировать дальше.