Słownik

Halucynacja AI. Kiedy AI zmyśla i jak to wyłapać

Halucynacja AI to odpowiedź, która brzmi przekonująco, a jest nieprawdziwa. Zmyślona liczba, nieistniejący przepis, cytat, którego nikt nie powiedział.

Model językowy układa tekst, który pasuje do pytania. Nie sprawdza go w żadnej bazie, chyba że ma do niej dostęp. Dlatego myli się tym samym pewnym tonem, którym mówi prawdę.

Przykład z firmy

Właścicielka sklepu prosi AI o opis produktu z wymiarami. AI podaje wymiary i skład materiału, których nie było w notatkach, bo tak zwykle wygląda opis produktu. Klient zamawia, a towar nie pasuje do opisu.

Podobnie bywa z przepisami. Zapytane o termin na odpowiedź na reklamację, AI może podać liczbę dni z innej ustawy albo z innego kraju, z pewnym tonem i bez źródła.

Na co uważać

Liczby, daty, nazwiska, przepisy i cytaty zawsze sprawdzajcie w źródle. W prompcie dopiszcie, że jeśli czegoś nie ma w danych, AI ma napisać „nie wiem”. To nie usuwa halucynacji, ale wyraźnie je zmniejsza.

Czytajcie dalej