Interner Wissensabruf für KI-Agenten: Wenn RAG tatsächlich hilft
RAG ist nützlich, wenn es einen Agenten mit Wissen verbindet, das im aktuellen Arbeitsablauf wichtig ist. Es ist enttäuschend, wenn es zu einem vagen Suchfeld über unordentlichen Dokumenten wird.
Der Unterschied liegt im Design.
Beginnen Sie mit dem Workflow, nicht mit der Vektordatenbank
Fragen Sie vor dem Gebäudeabruf, was die Person oder der Agent tun möchte.
Beispiele:
- Beantworten Sie eine Supportfrage
- Überprüfen Sie eine Richtlinie
- Vergleichen Sie eine Anfrage mit einer Regel
- eine Produktentscheidung verstehen
- Finden Sie einen früheren Vorfall
- Onboarding-Kontext vorbereiten
Retrieval sollte der Aufgabe dienen, nicht existieren, weil RAG modern klingt.
Wählen Sie hochwertige Quellen
Nicht jedes Dokument sollte zuerst indiziert werden.
Beginnen Sie mit folgenden Quellen:
- häufig verwendet
- einigermaßen aktuell
- vertrauenswürdig
- Strukturiert genug, um zitiert zu werden
- verbunden mit wiederkehrenden Arbeitsabläufen
Gute Kandidaten:
- FAQs
- Produktdokumente
- Entscheidungsaufzeichnungen
- bekannte Probleme
- Unterstützung von Makros
- Runbooks
- Änderungsprotokolle
Schlechte Kandidaten:
- veraltete Dokumente
- widersprüchliche Notizen
- Private Chats mit unklarem Eigentum
- Inhalte, denen niemand vertraut
Zitate sind nicht optional
Bei Geschäftsabläufen sollten beim Abruf Quellen angezeigt werden.
Eine nützliche Antwort beinhaltet:
- Quellentitel
- Abschnitt oder Seite
- relevantes Zitat
- Datum, wenn es auf Frische ankommt
- Vertrauen oder Einschränkung
Dadurch bleibt der Agent erklärbar.
Berechtigungen sind wichtig
Internes Wissen ist nicht alle gleich. Einige Informationen sind vertraulich, veraltet oder rollenspezifisch.
Ein Retrieval-Agent sollte Folgendes respektieren:
- Benutzerrolle
- Dokumentberechtigungen
- Kundengrenzen
- Regeln für sensible Daten
- Prüfungsanforderungen
Ohne Berechtigungen kann der Abruf zu einem Datenleck werden.
RAG ist im Prozesskontext am stärksten
Eine allgemeine Abfrage wie „Was ist die Richtlinie?“ ist schwächer als der Abruf innerhalb eines Prozesses:
- aktueller Kunde
- aktuelles Produkt
- Problemkategorie
- Region
- Vertragsart
- frühere Entscheidungen
Der Kontext macht den Abruf präzise.
Der Praxistest
Fragen Sie:
Würde dieses Abrufergebnis einer kompetenten Person helfen, schneller zu entscheiden?
Wenn ja, gehört es in den Workflow. Wenn nicht, handelt es sich wahrscheinlich nur um eine Suche mit zusätzlichen Schritten.