Słownik

RAG. Jak AI odpowiada z dokumentów Waszej firmy

RAG to skrót od angielskiego retrieval augmented generation. Po polsku to odpowiadanie z wyszukiwaniem. Zanim AI odpowie, program wyszukuje w Waszych dokumentach fragmenty pasujące do pytania i daje je modelowi razem z pytaniem.

Dzięki temu model odpowiada na podstawie Waszego regulaminu, cennika czy instrukcji, a nie ogólnej wiedzy z internetu. Dokumenty nie muszą trafić do trenowania modelu.

Przykład z firmy

Firma ma czterdzieści stron instrukcji serwisowych. Czat na stronie z RAG odpowiada klientowi, jak zresetować urządzenie, i podaje, z której instrukcji wziął odpowiedź. Gdy w dokumentach odpowiedzi nie ma, ma powiedzieć, że nie wie, i przekazać sprawę człowiekowi.

Na co uważać

RAG odpowiada tak dobrze, jak dobre są dokumenty. Stary cennik w folderze da starą cenę. Zanim podłączycie dokumenty, posprzątajcie je i ustalcie, kto je aktualizuje. Jeśli w dokumentach są dane osobowe, sprawdźcie z prawnikiem, kto i gdzie je przetwarza.

Czytajcie dalej