Понятие
Галлюцинация
Hallucination
Галлюцинация — это когда нейросеть уверенно выдаёт выдуманный факт: несуществующий источник, неверную цифру, придуманную цитату. Звучит правдоподобно, а на деле неправда.
Что это
Что такое галлюцинация
Модель не хранит факты как база данных, она предсказывает правдоподобное продолжение текста. Когда точных данных в ней нет, она всё равно достраивает ответ самым гладким способом — и выдаёт убедительную выдумку с той же интонацией, что и правду. Особенно часто это случается на узких темах, свежих событиях, точных числах и ссылках.
Отличие
Чем отличается от обычной ошибки программы
Баг в программе ломает её предсказуемо и обычно заметно. Галлюцинация — это не сбой, а штатное поведение модели, доведённое до края: внешне ответ безупречен, и именно гладкость делает его опасным. Вывод: галлюцинации нельзя выключить патчем, их можно только снижать — давать модели проверяемые данные и перепроверять факты руками.
Зачем сейчас
Почему это важно сейчас
Чем больше людей доверяют ИИ ответы в работе, праве, медицине, финансах, тем дороже стоит каждая выдумка. Поэтому критичные факты сверяют с источником, а под точность подключают подход RAG — модель отвечает по поданным документам, а не из воздуха.
Практика
Статьи, где упоминается это понятие
Платформа и сообщество, где я по шагам показываю, как поставить ИИ на рутину: контент, код, продажи, аналитика. Заходи и забирай рабочие связки, которыми пользуюсь сам.
Вступить в ИИ-офисtelegram
Канал с полезными материалами про нейросети
Разборы, новые инструменты и приёмы по ИИ — то, чем пользуюсь сам, без воды. Подпишись, чтобы не потерять.
