07Галюцинації

Слово дивне, а явище просте: ШІ іноді вигадує і подає це з повною впевненістю. Посилання, якого немає. Функцію, якої не існує. Ціну, яку взяв зі стелі.

Злого наміру тут немає. Згадай, як він влаштований: його задача - продовжити текст правдоподібно. Зазвичай правдоподібне збігається з правдою. Іноді ні.

Що з цим робити - три правила, які закривають майже все.

Перевіряй факти, які легко перевірити. Ціни, версії, посилання, назви. Відкрив і подивився - десять секунд.

Код перевіряє запуск. Не сперечайся з ним про те, чи працює код. Запусти. Не працює - покажи йому помилку цілком, він полагодить.

Що свіжіша тема, то уважніше. Модель навчалася до якоїсь дати. Про те, що вийшло вчора, вона може впевнено розповісти дурницю. Тут допомагає пошук в інтернеті: у більшості ШІ він є, просто попроси подивитися.

І не бійся сказати йому «це неправда, перевір». Він не образиться і зазвичай виправиться.