Słownik
Halucynacja AI. Kiedy AI zmyśla i jak to wyłapać
Halucynacja AI to odpowiedź, która brzmi przekonująco, a jest nieprawdziwa. Zmyślona liczba, nieistniejący przepis, cytat, którego nikt nie powiedział.
Model językowy układa tekst, który pasuje do pytania. Nie sprawdza go w żadnej bazie, chyba że ma do niej dostęp. Dlatego myli się tym samym pewnym tonem, którym mówi prawdę.
Przykład z firmy
Właścicielka sklepu prosi AI o opis produktu z wymiarami. AI podaje wymiary i skład materiału, których nie było w notatkach, bo tak zwykle wygląda opis produktu. Klient zamawia, a towar nie pasuje do opisu.
Podobnie bywa z przepisami. Zapytane o termin na odpowiedź na reklamację, AI może podać liczbę dni z innej ustawy albo z innego kraju, z pewnym tonem i bez źródła.
Na co uważać
Liczby, daty, nazwiska, przepisy i cytaty zawsze sprawdzajcie w źródle. W prompcie dopiszcie, że jeśli czegoś nie ma w danych, AI ma napisać „nie wiem”. To nie usuwa halucynacji, ale wyraźnie je zmniejsza.