Ausführlich erklärt
Das lohnt sich, wo mehrere Informationen gegeneinander abzuwägen sind: Messwerte aus drei Protokollen abgleichen, mögliche Ursachen eines Feuchteschadens als Hypothesen gegenüberstellen, eine lange Akte auf widersprüchliche Zeitangaben prüfen. Für eine Umformulierung oder eine Kurzantwort ist Reasoning überflüssig.
Zwei Missverständnisse sind verbreitet. Erstens sind die angezeigten Denkschritte kein Protokoll dessen, was im Modell tatsächlich passiert. Das KI-Grundlagenpapier der Oberlandesgerichte nennt sie „plausible Rekonstruktionen, keine authentischen Protokolle des Rechenvorgangs“ (Abschnitt A.III.1, S. 5 f.). Zweitens heißt mehr Nachdenken nicht weniger Annahmen. Wer viele Zwischenschritte erzeugt, schafft auch mehr Stellen, an denen eine Vermutung stillschweigend an die Stelle eines Belegs tritt.
Nützlich sind die Zwischenschritte trotzdem: Sie zeigen, wo das Modell falsch abgebogen ist. Prüfbar sind aber nur die Aussagen im Ergebnis, ihre Quellen, Rechnungen und die vom Werkzeug protokollierten Aktionen.
Praxisregel
Nutzen Sie Reasoning für Abgleich und Strukturierung. Prüfen Sie das Ergebnis an Quellen und Rechenwegen, nicht am angezeigten Gedankengang.
Quellen
- Präsidentinnen und Präsidenten der Oberlandesgerichte, des KG, des BayObLG und des BGH: Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“, 24.04.2026
oberlandesgericht-celle.niedersachsen.de
Verwandte Begriffe
- Black-Box-Effekt – Der Black-Box-Effekt bedeutet: Man sieht bei einem KI-System Eingabe und Ausgabe, aber nicht, wie das Ergebnis zustande kam.
- Stille Lückenfüllung – Stille Lückenfüllung bedeutet: Fehlt einer KI eine Information, ergänzt sie diese häufig aus Allgemeinwissen oder Wahrscheinlichkeit, ohne das kenntlich zu machen.