Słownik
RAG. Jak AI odpowiada z dokumentów Waszej firmy
RAG to skrót od angielskiego retrieval augmented generation. Po polsku to odpowiadanie z wyszukiwaniem. Zanim AI odpowie, program wyszukuje w Waszych dokumentach fragmenty pasujące do pytania i daje je modelowi razem z pytaniem.
Dzięki temu model odpowiada na podstawie Waszego regulaminu, cennika czy instrukcji, a nie ogólnej wiedzy z internetu. Dokumenty nie muszą trafić do trenowania modelu.
Przykład z firmy
Firma ma czterdzieści stron instrukcji serwisowych. Czat na stronie z RAG odpowiada klientowi, jak zresetować urządzenie, i podaje, z której instrukcji wziął odpowiedź. Gdy w dokumentach odpowiedzi nie ma, ma powiedzieć, że nie wie, i przekazać sprawę człowiekowi.
Na co uważać
RAG odpowiada tak dobrze, jak dobre są dokumenty. Stary cennik w folderze da starą cenę. Zanim podłączycie dokumenty, posprzątajcie je i ustalcie, kto je aktualizuje. Jeśli w dokumentach są dane osobowe, sprawdźcie z prawnikiem, kto i gdzie je przetwarza.