Ausführlich erklärt
Das KI-Grundlagenpapier der Oberlandesgerichte beschreibt ihn als „die kognitive Tendenz […], automatisierten Systemempfehlungen eine überproportionale Autorität beizumessen und die eigene kritische Urteilsbildung dadurch zu verdrängen“ (Abschnitt A.III.2, S. 6).
Er zeigt sich in zwei Formen. Man folgt der KI, obwohl die eigene Erfahrung etwas anderes sagt. Oder man prüft nicht mehr aktiv und übersieht deshalb Fehler.
Das Risiko steigt mit der Wiederholung. Beim zehnten Photovoltaik-Gutachten mit KI-erstellter Mängeltabelle schaut man weniger genau hin als beim ersten. Eine KI-Liste der einschlägigen Regelwerke für einen Dachstuhlschaden wirkt vollständig, weil sie ordentlich formatiert ist. Gefehlt hat aber die Fassung, die zur Bauzeit galt.
Gegenmittel ist eine feste Prüfroutine, die nicht vom Gefühl abhängt: Jede sachhaltige Aussage wird an der Akte geprüft, nicht nur die, die Ihnen verdächtig vorkommt.
Praxisregel
Prüfen Sie jede übernommene sachhaltige Aussage an einer Quelle außerhalb der KI, auch wenn sie unauffällig wirkt. Bei Zahlen, Maßen, Normfassungen und Fundstellen prüfen Sie zusätzlich Fassung und Anwendbarkeit.
Quellen
- Präsidentinnen und Präsidenten der Oberlandesgerichte, des KG, des BayObLG und des BGH: Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“, 24.04.2026
oberlandesgericht-celle.niedersachsen.de
Verwandte Begriffe
- Ankereffekt und Default-Effekt – Der Ankereffekt beschreibt, dass ein erster Vorschlag das eigene Urteil in seine Richtung zieht.
- Human in the Loop – Human in the Loop ist eine Arbeitsweise, bei der ein Mensch ein KI-Ergebnis inhaltlich prüft und freigibt, bevor es Wirkung entfaltet.
- Verifikation – Verifikation ist die Prüfung einer KI-Aussage an einer Quelle außerhalb der KI: der Akte, der Norm in der maßgeblichen Fassung, dem eigenen Messprotokoll, einer nachvollziehbaren Berechnung.