Словник
Галюцинація AI. Коли AI вигадує і як це помітити
Галюцинація AI це відповідь, яка звучить переконливо, але неправдива. Вигадана цифра, неіснуюча норма закону, цитата, якої ніхто не казав.
Мовна модель складає текст, який пасує до питання. Вона не перевіряє його в жодній базі, хіба що має до неї доступ. Тому помиляється тим самим упевненим тоном, яким каже правду.
Приклад з фірми
Власниця магазину просить AI опис товару з розмірами. AI дає розміри й склад матеріалу, яких не було в нотатках, бо так зазвичай виглядає опис товару. Клієнт замовляє, а товар не відповідає опису.
Так само буває з нормами закону. На питання про строк відповіді на скаргу AI може назвати кількість днів з іншого закону чи іншої країни, упевнено й без джерела.
На що зважати
Цифри, дати, імена, норми закону й цитати завжди перевіряйте в джерелі. У промпті допишіть, що якщо чогось нема в даних, AI має написати «не знаю». Це не прибирає галюцинацій, але помітно їх зменшує.