Ausführlich erklärt
Das KI-Grundlagenpapier der Oberlandesgerichte sagt es deutlich: „Denn Sprachmodelle sind – entgegen ihres häufigen Einsatzes – keine Wissensmodelle.“ (Abschnitt A.III.3, S. 7)
Für Gutachten lassen sich drei Fehlerarten unterscheiden, die unterschiedlich schwer zu entdecken sind. Streng genommen ist nur die erste eine Halluzination. Prüfen müssen Sie alle drei.
Die erfundene Quelle: Die KI nennt eine Norm, ein Urteil oder einen Fachaufsatz, den es nicht gibt, etwa einen Normteil, der nie erschienen ist. Prüfung: nachschlagen, im Normenkatalog, in der Rechtsprechungsdatenbank, in der Akte.
Die echte Quelle am falschen Ort: Die Norm existiert, das Zitat stimmt, aber sie passt nicht. Die aktuelle Fassung wird auf einen Schaden aus einer Bauzeit vor 15 Jahren angewandt, eine Regel für Nichtwohngebäude auf ein Einfamilienhaus, eine VOB/B-Klausel auf einen Vertrag ohne VOB-Vereinbarung. Hier hilft nur Fachwissen.
Der Widerspruch zur Akte: Die Aussage ist für sich genommen plausibel, widerspricht aber einem anderen Dokument. Die KI rechnet mit den 12 m² aus der Klageschrift, obwohl Ihr Protokoll 8 m² ausweist. Oder sie behandelt einen Mangel als offen, während drei Anlagen weiter die Reparaturrechnung liegt. Dieser Typ ist der gefährlichste, weil das Ergebnis in sich schlüssig wirkt.
Besonders gefährdet sind Zahlen, Maße, Normzitate, Fundstellen und Befunddetails. Ein guter Stil ist kein Richtigkeitsbeleg.
Praxisregel
Prüfen Sie getrennt: Gibt es die Quelle? Passt sie zu Bauzeit, Gebäudeart und Vertrag? Widerspricht die Aussage einem anderen Dokument der Akte?
Quellen
- Präsidentinnen und Präsidenten der Oberlandesgerichte, des KG, des BayObLG und des BGH: Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“, 24.04.2026
oberlandesgericht-celle.niedersachsen.de
Verwandte Begriffe
- Wahrscheinlichkeitsmaschine: Wie Sprachmodelle Text erzeugen – „Wahrscheinlichkeitsmaschine“ ist eine bildhafte Bezeichnung für die Arbeitsweise eines Sprachmodells: Es berechnet für jedes nächste Token Wahrscheinlichkeiten und wählt daraus.
- Verifikation – Verifikation ist die Prüfung einer KI-Aussage an einer Quelle außerhalb der KI: der Akte, der Norm in der maßgeblichen Fassung, dem eigenen Messprotokoll, einer nachvollziehbaren Berechnung.
- Stille Lückenfüllung – Stille Lückenfüllung bedeutet: Fehlt einer KI eine Information, ergänzt sie diese häufig aus Allgemeinwissen oder Wahrscheinlichkeit, ohne das kenntlich zu machen.