Ausführlich erklärt
ChatGPT, Claude, Gemini und die meisten KI-Werkzeuge für Büroarbeit beruhen auf Sprachmodellen. Trainiert wurden sie mit riesigen Textmengen: Fachliteratur, Foren, Kommentare, Werbetexte, ohne Unterschied in der Qualität. Welche Daten im Einzelnen enthalten sind, können Nutzer nicht nachvollziehen.
Das erklärt die Stärken. Ein Sprachmodell formuliert einen Befund sauber aus, fasst einen 40-seitigen Schriftsatz in einer Minute zusammen und findet in einer Akte die Stellen zur Dachneigung.
Und es erklärt die Grenze. Das KI-Grundlagenpapier der Oberlandesgerichte sagt es deutlich: „Sprachmodelle sind – entgegen ihres häufigen Einsatzes – keine Wissensmodelle.“ (Abschnitt A.III.3, S. 7) Stark ist ein Sprachmodell im Umgang mit dem Text, den Sie ihm geben. Schwach wird es, wenn es aus dem Gedächtnis antworten soll: bei Normnummern, Grenzwerten, Urteilen, Herstellerangaben und der zeitlich maßgeblichen Fassung.
Viele Anwendungen verbinden das Modell mit Suche, Rechner oder Dateizugriff. Was davon im Einzelfall tatsächlich genutzt wurde, sollten Sie erkennen können.
Praxisregel
Behandeln Sie Faktenwissen eines Sprachmodells als Hypothese, bis eine passende, aktuelle Quelle es stützt.
Quellen
- Präsidentinnen und Präsidenten der Oberlandesgerichte, des KG, des BayObLG und des BGH: Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“, 24.04.2026
oberlandesgericht-celle.niedersachsen.de
Verwandte Begriffe
- Wahrscheinlichkeitsmaschine: Wie Sprachmodelle Text erzeugen – „Wahrscheinlichkeitsmaschine“ ist eine bildhafte Bezeichnung für die Arbeitsweise eines Sprachmodells: Es berechnet für jedes nächste Token Wahrscheinlichkeiten und wählt daraus.
- Halluzination – Eine Halluzination ist eine KI-Aussage, die überzeugend klingt, aber weder durch Ihre Unterlagen noch durch die Wirklichkeit gedeckt ist.
- Quellenbindung – Quellenbindung ist die Anweisung an die KI, nur mit dem bereitgestellten Material zu arbeiten und jede Aussage mit einer Fundstelle zu belegen.