Glossar

Human-in-the-Loop

Human-in-the-Loop ist ein Entwurfsmuster, bei dem Menschen die Vorschläge eines KI-Systems prüfen, genehmigen oder korrigieren, bevor sie wirksam werden. Es hält das menschliche Urteil bei Entscheidungen mit hohem Risiko oder geringer Sicherheit auf dem kritischen Pfad, während die Automatisierung das routinemäßige Volumen bewältigt.

Synonyme: HITL, human in the loop, human oversight, human review

Human-in-the-Loop ist die praktische Antwort auf die Frage, wie sehr man der Automatisierung vertrauen soll. Statt zwischen voller Autonomie und manueller Arbeit zu wählen, leitet es Arbeit nach Risiko: sichere, geerdete, risikoarme Aktionen laufen automatisch weiter, während sensible für eine Person pausieren, die genehmigt oder anpasst. Das hält den Durchsatz hoch, ohne die Verantwortung abzugeben, und erzeugt einen Datensatz darüber, wer was entschieden hat. Gut umgesetzt, zieht sich die Schleife mit der Zeit enger, da Belege und Richtlinie nachweisen, welche Arbeitskategorien sicher weiter automatisiert werden können.

Wann sollte ein Schritt Human-in-the-Loop sein?

Immer wenn eine Entscheidung risikoreich, unumkehrbar, von geringer Sicherheit oder durch eine Richtlinie geregelt ist. Routinemäßige, gut belegte, risikoarme Schritte können automatisch laufen, während der Mensch die Ausnahmen prüft.

Wie unterscheidet sich das von vollständiger Automatisierung?

Vollständige Automatisierung handelt ohne Prüfung. Human-in-the-Loop fügt einen expliziten Kontrollpunkt ein, an dem eine Person den Vorschlag genehmigen, bearbeiten oder ablehnen kann, und wahrt so die Verantwortung für sensible Ergebnisse.

Human-in-the-Loop

Häufig gestellte Fragen

Verwandte Begriffe