Ausführlich erklärt
Sprachmodelle sind darauf trainiert, vollständige, runde Antworten zu liefern. „Steht nicht in den Unterlagen“ ist für sie die unattraktivere Antwort. Enthält das Ortsterminprotokoll keine Angabe zum Rohrwerkstoff, steht im KI-Entwurf womöglich „Kupferleitungen“, weil das in vergleichbaren Texten häufig vorkommt. Fehlt das Einbaujahr der Holzfenster, schätzt die KI es aus dem Kontext.
Die Ergänzung fügt sich nahtlos ein und klingt wie eine Feststellung. Wie oft das passiert, hängt von Modell, Prompt und Aufgabe ab; auch starke Modelle tun es.
Für Sachverständige ist das besonders heikel. Ein Gutachten lebt von der Trennung zwischen Feststellung, Angaben der Beteiligten, Annahme und offener Frage. Eine ergänzte Angabe, die im Befundteil wie eine Feststellung steht, ist ein Fehler, den Dritte später finden können, womöglich erst in der Anhörung.
Gegenmittel ist eine ausdrückliche Anweisung: „Fehlt eine Angabe, setze [FEHLT] und ergänze nichts. Führe Vermutungen getrennt als Hypothesen auf.“ Eine Kontrollfrage am Schluss („Welche Angaben in deinem Text stammen nicht aus den Unterlagen?“) liefert oft einen Teil der Ergänzungen, nie verlässlich alle. Den Rest finden Sie nur im Abgleich mit Ihren Unterlagen.
Praxisregel
Lassen Sie fehlende Angaben sichtbar markieren. Trennen Sie Feststellung, Angaben der Beteiligten, Annahme und Bewertung, auch im KI-Entwurf.
Verwandte Begriffe
- Halluzination – Eine Halluzination ist eine KI-Aussage, die überzeugend klingt, aber weder durch Ihre Unterlagen noch durch die Wirklichkeit gedeckt ist.
- Quellenbindung – Quellenbindung ist die Anweisung an die KI, nur mit dem bereitgestellten Material zu arbeiten und jede Aussage mit einer Fundstelle zu belegen.
- Auslassung – Eine Auslassung liegt vor, wenn die KI relevante Informationen weglässt, ohne darauf hinzuweisen.