Ausführlich erklärt
Der Begriff stammt aus der Automatisierungstechnik und beschreibt, an welcher Stelle der Mensch im Ablauf steht. „Human in the Loop“ heißt: Ohne menschliche Freigabe geht nichts weiter. Bei „Human on the Loop“ läuft das System selbstständig, der Mensch überwacht und greift bei Auffälligkeiten ein. Bei „Human out of the Loop“ entscheidet die Maschine allein.
Für Sachverständige ist die Unterscheidung konkret. Ein KI-Entwurf für den Befundteil, den Sie Satz für Satz prüfen und überarbeiten: Human in the Loop. Eine automatisch erstellte Mängelliste, die Sie nur noch überfliegen, bevor sie ins Gutachten geht: faktisch Human on the Loop, auch wenn Sie formal freigeben.
Die Grenze verschiebt sich schleichend, weil Routine die Prüfung verflacht (siehe „Automation Bias“). Eine Freigabe ist nur so viel wert wie die Belege, die Fachkenntnis und die Zeit, mit denen sie erfolgt.
Die EU-KI-Verordnung verlangt für Hochrisiko-Systeme „menschliche Aufsicht“ (Art. 14).
Praxisregel
Geben Sie kein KI-Ergebnis nach außen, das Sie nicht inhaltlich geprüft haben. Planen Sie die Prüfzeit ein; eine Freigabe unter Zeitdruck ist keine.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung), Amtsblattfassung
eur-lex.europa.eu
Verwandte Begriffe
- Automation Bias – Automation Bias ist die Neigung, Ergebnissen einer Maschine mehr zu vertrauen als dem eigenen Urteil und eigene Kontrollen zu unterlassen.
- Assistenz vs. Beurteilung – Die Unterscheidung zwischen Assistenz und Beurteilung ist die Trennlinie, die das KI-Grundlagenpapier der Oberlandesgerichte für die Justiz zieht: Informationsgewinnung, Strukturierung, Organisation und Standardisierung sind assistenzfähig.
- Hochrisiko-KI – Hochrisiko-KI-Systeme sind Systeme, die nach Art. 6 in Verbindung mit Anhang I oder III der KI-Verordnung als hochriskant gelten.