Ausführlich erklärt
„Erkläre, warum die Unterkonstruktion der Photovoltaikanlage mangelhaft ist“ ist kein Prüfauftrag, sondern ein Schreibauftrag für eine Begründung. Die KI liefert sie, überzeugend und mit Normverweisen, auch wenn die Unterlagen eine solche Feststellung nicht tragen.
Der Effekt wirkt auch versteckt. Die Auswahl der Dokumente, die Reihenfolge, in der Sie sie hochladen, ein Nebensatz wie „der Installateur hat hier offensichtlich gepfuscht“: All das färbt das Ergebnis.
Für Sachverständige ist das doppelt wichtig. Ihre Aufgabe ist es, einen Sachverhalt ergebnisoffen zu prüfen, nicht eine These zu stützen. Die Formulierung Ihres Prompts wird damit Teil Ihrer Methode.
Neutral formuliert lautet derselbe Auftrag: „Prüfe anhand der Unterlagen, ob die Unterkonstruktion den maßgeblichen Montagevorgaben des Herstellers entspricht. Nenne Belege für und gegen eine Abweichung sowie die noch fehlenden Angaben.“ Die Frage nach Gegenbelegen ist der wichtigste Teil.
Verwandt ist die Gefälligkeitsneigung (englisch: sycophancy): Sprachmodelle neigen dazu, dem Nutzer recht zu geben. Fragen Sie „Bist du sicher?“, geben sie oft nach, auch bei richtigen Antworten. Beide Effekte verstärken sich gegenseitig.
Praxisregel
Fragen Sie nach Gegenbelegen und fehlenden Informationen, bevor Sie eine These ausformulieren lassen. Schreiben Sie keine Bewertung in die Frage.
Verwandte Begriffe
- Prompt – Ein Prompt ist die Anweisung, die Sie einer KI geben.
- Erst Fundstellen, dann Bewertung – „Erst Fundstellen, dann Bewertung“ ist eine Arbeitsweise, bei der die KI zuerst alle relevanten Textstellen mit Fundstelle zusammenträgt und erst danach Aussagen vergleicht.
- Ankereffekt und Default-Effekt – Der Ankereffekt beschreibt, dass ein erster Vorschlag das eigene Urteil in seine Richtung zieht.