Ausführlich erklärt
Ein Sprachmodell besteht aus Milliarden Zahlenwerten, die im Training eingestellt wurden. Warum es auf eine bestimmte Frage eine bestimmte Antwort gibt, kann auch der Anbieter nicht vollständig erklären. Protokollieren lassen sich Arbeitsabläufe, aufgerufene Werkzeuge und Ergebnisse, nicht die einzelne Modellentscheidung.
Das KI-Grundlagenpapier der Oberlandesgerichte differenziert hier. Es nennt die vom Modell angezeigten Begründungen „plausible Rekonstruktionen, keine authentischen Protokolle des Rechenvorgangs“. Zugleich hält es fest, es greife „auf vielen Ebenen zu kurz, Künstliche Intelligenz schlicht ohne Kontext als intransparent und als Black-Box zu bezeichnen“ (Abschnitt A.III.1, S. 5 f.).
Ein Vergleich aus Ihrer Praxis: Beim Messgerät sichert die Kalibrierung den Messweg. Für den Rechenweg eines Sprachmodells gibt es nichts Vergleichbares. Daraus folgt der Grundsatz für jede KI-Zuarbeit: Weil der Prozess nicht prüfbar ist, muss das Ergebnis prüfbar sein.
Der Black-Box-Effekt betrifft zunehmend auch Ihren Prüfgegenstand, etwa selbstlernende Anlagensteuerungen, deren Verhalten sich im Nachhinein nicht ohne Weiteres rekonstruieren lässt.
Praxisregel
Übernehmen Sie nur KI-Aussagen, die Sie an einem Beleg außerhalb der KI geprüft haben. Dass sich ein Werkzeug im Test bewährt hat, erspart Ihnen diese Prüfung im Einzelfall nicht.
Quellen
- Präsidentinnen und Präsidenten der Oberlandesgerichte, des KG, des BayObLG und des BGH: Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“, 24.04.2026
oberlandesgericht-celle.niedersachsen.de
Verwandte Begriffe
- Reasoning (Thinking) – Reasoning (auch „Thinking“) ist eine Betriebsart, in der ein Sprachmodell vor der Antwort Zwischenschritte erzeugt, die Aufgabe zerlegt und auf Widersprüche prüft.
- Vertrauens-Trias: Robustheit, Nachvollziehbarkeit, Transparenz – Die Vertrauens-Trias umfasst drei Eigenschaften, die das KI-Grundlagenpapier der Oberlandesgerichte als Voraussetzung vertrauenswürdiger KI nennt: Robustheit, Nachvollziehbarkeit und Transparenz.
- KI-gestützte Gebäudeautomation – KI-gestützte Gebäudeautomation umfasst Steuerungen für Heizung, Lüftung, Klima, Beleuchtung, Verschattung oder Speicher, die ihr Verhalten aus Betriebsdaten, Prognosen oder Belegung anpassen.