Human-in-the-Loop
Human-in-the-loop is een ontwerppatroon waarbij mensen voorstellen van een AI-systeem beoordelen, goedkeuren of corrigeren voordat ze effect krijgen. Het houdt menselijk oordeel op het kritieke pad voor beslissingen met hoog risico of laag vertrouwen, terwijl automatisering het routinevolume afhandelt.
Synoniemen: HITL, mens in de lus, menselijk toezicht, menselijke review
Human-in-the-loop is het praktische antwoord op de vraag hoeveel vertrouwen automatisering verdient. In plaats van te kiezen tussen volledige autonomie en handwerk routeert het werk op basis van risico: zekere, onderbouwde acties met laag risico gaan automatisch door, terwijl gevoelige acties pauzeren zodat een persoon ze kan goedkeuren of aanpassen. Zo blijft de doorvoer hoog zonder verantwoordbaarheid op te geven, en ontstaat er een record van wie wat besloot. Goed uitgevoerd wordt de lus na verloop van tijd strakker, naarmate bewijs en beleid aantonen welke categorieën werk verder veilig te automatiseren zijn.