07Галлюцинации

Она может уверенно наврать. Это не баг, это свойство

Слово странное, а явление простое: ИИ иногда придумывает и подаёт это с полной уверенностью. Ссылку, которой нет. Функцию, которой не существует. Цену, которую взяла с потолка.

Это не поломка и не злой умысел. Вспомни, как она устроена: её задача - продолжить текст правдоподобно. Обычно правдоподобное совпадает с правдой. Иногда нет.

Что с этим делать - три правила, которые закрывают почти всё.

Проверяй факты, которые легко проверить. Цены, версии, ссылки, названия. Открыл и посмотрел - десять секунд.

Код проверяет запуск. Не спорь с ней о том, работает ли код. Запусти. Не работает - покажи ей ошибку целиком, она починит.

Чем свежее тема, тем внимательнее. Модель обучалась до какой-то даты. Про то, что вышло вчера, она может уверенно рассказать чушь. Тут помогает поиск в интернете - у большинства ИИ он есть, просто попроси посмотреть.

И не бойся сказать ей «это неправда, проверь». Она не обидится и обычно исправится.