Ausführlich erklärt
Ohne RAG antwortet ein Sprachmodell aus seinem Training, gewissermaßen aus dem Gedächtnis. Mit RAG läuft vorher eine Suche in einer Normensammlung, einer Wissensdatenbank oder im Web, per Stichwort, per Vektorsuche oder kombiniert. Die gefundenen Abschnitte werden der Frage beigefügt, und die Antwort kann Fundstellen nennen.
Für Sachverständige ist das der Weg, aktuelle Unterlagen einzubinden: die Installationsanleitung des Wärmeerzeugers, die Verlegeanleitung des Flachdachsystems, die eigenen Altgutachten zu Schimmelschäden. Für Normen gelten die Lizenzgrenzen (siehe „Normen und KI-Lizenz“).
Drei Schwachstellen bleiben. Findet die Suche die maßgebliche Stelle nicht, antwortet das Modell trotzdem, dann eben mit dem Nächstbesten. Das Modell kann eine richtige Stelle falsch wiedergeben oder auf den falschen Fall übertragen. Und bei der Websuche entscheidet die Qualität der gefundenen Seiten: Ein Herstellerblog ist keine Norm.
RAG verschiebt die Prüfarbeit, es erspart sie nicht. Statt „Stimmt die Aussage?“ lautet die Frage: „Steht das wirklich so an der genannten Stelle, und passt diese Stelle zu meinem Fall?“
Praxisregel
Prüfen Sie zu jeder übernommenen Aussage Abrufquelle, Fassung und Originalstelle. Halten Sie auch fest, wonach gesucht und nichts gefunden wurde.
Verwandte Begriffe
- Vektorsuche – Vektorsuche ist ein Suchverfahren, das Textstellen nach inhaltlicher Ähnlichkeit findet statt nach exakten Wörtern.
- Quellenbindung – Quellenbindung ist die Anweisung an die KI, nur mit dem bereitgestellten Material zu arbeiten und jede Aussage mit einer Fundstelle zu belegen.
- Halluzination – Eine Halluzination ist eine KI-Aussage, die überzeugend klingt, aber weder durch Ihre Unterlagen noch durch die Wirklichkeit gedeckt ist.