Ausführlich erklärt
Fragt man ein Sprachmodell direkt „War die Abdichtung fachgerecht?“, legt es sich mit den ersten Wörtern auf eine Richtung fest und sucht danach passende Belege. Der Bestätigungsfehler steckt damit in der Arbeitsweise selbst.
Die Gegenmaßnahme kennen Sie aus Ihrer eigenen Arbeit: erst die Tatsachen, dann das Urteil. Ein Prüfauftrag kann lauten: „Suche im bereitgestellten Aktenbestand die Textstellen zur Ausführung der Abdichtung am Terrassenanschluss. Nenne Dokument, Fassung, Seite und einen kurzen wörtlichen Auszug. Kennzeichne fehlende Fundstellen und widersprüchliche Angaben. Formuliere noch keine fachliche Bewertung.“
Das hat drei Vorteile. Sie sehen sofort, auf welcher Grundlage die KI arbeitet. Lücken werden sichtbar, statt aus Allgemeinwissen gefüllt zu werden. Und Sie können jede Stelle in Sekunden in der Akte nachprüfen. Eine Garantie ist es nicht: Die Suche kann Stellen übersehen, und ein Zitat kann falsch sein.
Dass die KI im Beispiel Widersprüche benennt, aber nicht bewertet, ist Absicht. Die fachliche Bewertung bleibt bei Ihnen.
Praxisregel
Lassen Sie zuerst Quellen und Widersprüche erfassen und bewerten Sie dann selbst. Schlagen Sie jede Fundstelle nach, bevor Sie mit ihr arbeiten.
Verwandte Begriffe
- Quellenbindung – Quellenbindung ist die Anweisung an die KI, nur mit dem bereitgestellten Material zu arbeiten und jede Aussage mit einer Fundstelle zu belegen.
- Framing-Effekt / suggestives Prompting – Der Framing-Effekt beim Prompting bedeutet: Die Formulierung einer Frage prägt die Antwort.
- Assistenz vs. Beurteilung – Die Unterscheidung zwischen Assistenz und Beurteilung ist die Trennlinie, die das KI-Grundlagenpapier der Oberlandesgerichte für die Justiz zieht: Informationsgewinnung, Strukturierung, Organisation und Standardisierung sind assistenzfähig.