Ausführlich erklärt
Wenn Sie einem KI-Werkzeug eine Frage stellen, erhält das Modell mehr als Ihre Frage. Davor steht ein Systemprompt mit Vorgaben zu Rolle, Tonfall, Ausgabeformat und Sicherheitsregeln. Bei spezialisierten Werkzeugen, etwa einem Gutachten-Assistenten oder einem Agenten für Ortsterminprotokolle, steckt im Systemprompt die eigentliche Fachlogik.
Bei Widersprüchen setzt sich meist der Systemprompt gegen Ihre Chat-Eingabe durch. Verlangt er Tabellen, bekommen Sie Tabellen, auch wenn Sie um Fließtext bitten. Verlassen können Sie sich darauf nicht; die Rangfolge ersetzt keinen Test.
Für Sachverständige hat das eine unbequeme Folge: Wer ein fertiges KI-Werkzeug nutzt, arbeitet mit Vorgaben, die er nicht kennt. Ob das Werkzeug angewiesen ist, bei fehlenden Angaben Lücken zu markieren oder sie „sinnvoll zu ergänzen“, macht für ein Gutachten einen erheblichen Unterschied. Neben dem Systemprompt prägen auch Programmlogik, Werkzeuge, Datenzugriffe und Filter das Ergebnis.
Praxisregel
Fragen Sie den Anbieter, wie das Werkzeug mit fehlenden Angaben umgeht, und testen Sie es mit einem Fall, in dem bewusst etwas fehlt. Halten Sie fest, welches Werkzeug Sie in welcher Version genutzt haben.
Verwandte Begriffe
- Kontextfenster – Das Kontextfenster ist die Menge an Text, die ein Sprachmodell bei einer Antwort gleichzeitig berücksichtigen kann, gemessen in Token.
- Prompt – Ein Prompt ist die Anweisung, die Sie einer KI geben.
- Prompt Injection – Prompt Injection ist ein Angriff, bei dem Anweisungen an eine KI in Daten versteckt sind: in einem Schriftsatz, einer E-Mail, einer Webseite.