Wewnętrzne wyszukiwanie wiedzy dla agentów AI: kiedy RAG faktycznie pomaga
RAG jest przydatny, gdy łączy agenta z wiedzą istotną w bieżącym przepływie pracy. To rozczarowujące, gdy zmienia się w niejasne pole wyszukiwania w niechlujnych dokumentach.
Różnica polega na projektowaniu.
Zacznij od przepływu pracy, a nie od bazy danych wektorów
Przed odzyskaniem budynku zapytaj, co próbuje zrobić dana osoba lub agent.
Przykłady:
- odpowiedz na pytanie pomocnicze
- sprawdź politykę
- porównaj żądanie z regułą
- zrozumieć decyzję dotyczącą produktu
- znajdź poprzednie wydarzenie
- przygotować kontekst onboardingowy
Odzyskiwanie powinno służyć zadaniu, a nie istnieć, ponieważ RAG brzmi nowocześnie.
Wybierz źródła o wysokiej wartości
Nie każdy dokument powinien być najpierw indeksowany.
Zacznij od źródeł, które są:
- często używane
- w miarę aktualne
- zaufany
- wystarczająco uporządkowany, aby móc go cytować
- połączone z powtarzającymi się przepływami pracy
Dobrzy kandydaci:
- Często zadawane pytania
- dokumentacja produktu
- akta decyzji
- znane problemy
- obsługa makr
- elementy runbook
- dzienniki zmian
Źli kandydaci:
- nieaktualne dokumenty
- sprzeczne notatki
- prywatne czaty z niejasną własnością
- treści, którym nikt nie ufa
Cytaty nie są opcjonalne
W przypadku biznesowych przepływów pracy pobieranie powinno pokazywać źródła.
Przydatna odpowiedź obejmuje:
- tytuł źródłowy
- sekcja lub strona
- odpowiedni cytat
- data jeśli świeżość ma znaczenie
- pewność lub ograniczenie
Dzięki temu agent jest łatwy do wyjaśnienia.
Uprawnienia mają znaczenie
Wiedza wewnętrzna nie jest równa. Niektóre informacje są poufne, nieaktualne lub zależą od roli.
Agent windykacyjny powinien szanować:
- rola użytkownika
- uprawnienia do dokumentów
- granice klienta
- zasady dotyczące danych wrażliwych
- wymagania audytowe
Bez uprawnień odzyskanie może stać się wyciekiem danych.
RAG jest najsilniejszy w kontekście procesu
Ogólne zapytanie, np. „Jakie są zasady?” jest słabszy niż pobieranie w procesie:
- obecny klient
- aktualny produkt
- kategoria zagadnienia
- region
- rodzaj umowy
- poprzednie decyzje
Kontekst sprawia, że wyszukiwanie jest precyzyjne.
Test praktyczny
Zapytaj:
Czy ten wynik wyszukiwania pomógłby kompetentnej osobie szybciej podjąć decyzję?
Jeśli tak, należy to do przepływu pracy. Jeśli nie, prawdopodobnie jest to po prostu wyszukiwanie z dodatkowymi krokami.