Ausführlich erklärt
Beim Prüfen von KI-Ergebnissen sucht man instinktiv nach Fehlern im Text. Was nicht im Text steht, prüft man nicht. Genau hier liegt die Schwäche: Eine KI-Zusammenfassung von 60 Seiten Schriftwechsel kann sauber, richtig und gut formuliert sein und trotzdem den einen Brief übergehen, in dem der Heizungsbauer die Änderung am hydraulischen Abgleich einräumt.
Auslassungen haben mehrere Ursachen. Das Kontextfenster ist überfüllt, die Information steht in der Mitte eines langen Textes, die Vektorsuche hat den Abschnitt nicht gefunden, oder das Modell hat die Stelle als unwichtig eingestuft. Welche Bedeutung eine Information für die Beweisfrage hat, erkennt ein Sprachmodell nur bedingt.
Das KI-Grundlagenpapier der Oberlandesgerichte nimmt diese Fehlerart ausdrücklich in seine Prüffragen auf: „Lässt die Antwort wesentliche Gesichtspunkte außer Acht?“ (Abschnitt C.III.3.b, S. 61)
Gegenmittel: Erstellen Sie unabhängig von der KI ein Verzeichnis des relevanten Aktenbestands und eine Liste Ihrer Prüffragen. Kontrollieren Sie, welche Dokumente tatsächlich verarbeitet wurden. Die Frage an das Modell, was es ausgelassen habe, ist nur eine Zusatzkontrolle: Ein Modell kann nicht melden, was es nie gesehen hat.
Praxisregel
Prüfen Sie Vollständigkeit am Aktenverzeichnis und am Beweisbeschluss, nicht an der Selbstauskunft des Modells. Was für die Beweisfrage entscheidend ist, lesen Sie selbst.
Quellen
- Präsidentinnen und Präsidenten der Oberlandesgerichte, des KG, des BayObLG und des BGH: Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“, 24.04.2026
oberlandesgericht-celle.niedersachsen.de
Verwandte Begriffe
- Lost in the Middle – „Lost in the Middle“ bezeichnet den Effekt, dass Sprachmodelle Informationen am Anfang und am Ende einer langen Eingabe zuverlässiger berücksichtigen als in der Mitte.
- Drei Prüffragen für KI-Antworten – Die drei Prüffragen des KI-Grundlagenpapiers der Oberlandesgerichte prüfen die Qualität einer KI-Antwort: Ist sie richtig? Ist sie relevant? Lässt sie Wesentliches weg?
- Vektorsuche – Vektorsuche ist ein Suchverfahren, das Textstellen nach inhaltlicher Ähnlichkeit findet statt nach exakten Wörtern.