Часть 3. Почему он галлюцинирует и что с этим делать.

В прошлых частях я уже писал, что ChatGPT часто по ошибке называют “искусственным интеллектом”.

На самом деле это большая языковая модель (LLM). В основе — нейросеть, натренированная на огромном объёме текстов: статьи, книги, сайты, форумы и прочее.

Его задача угадать следующее слово на основе предыдущих.

То есть, если ты пишешь:

"Маркетинг — это способ..."

Он выбирает по статистике, какое слово наиболее вероятно пойдёт дальше. Это может быть "продвижения", "влияния", "коммуникации" и т.д.. Короче, он выбирает не из смысла, а из вероятности по обученным паттернам и материалам.

Что такое галлюцинация?

Это когда GPT: — выдумывает статью, которой не существует, — приписывает цитату несуществующему источнику, — ссылается на исследования, которые никто не проводил.

Почему это происходит?

Он не "знает" истину У него нет базы фактов или внутренней "Базы данных", как у Википедии. Он не проверяет по дефолту, правда ли то, что написал. Он тупо угадывает, что в этом контексте звучит "как будто правда".

Слишком общие или туманные запросы Если ты спросишь: “Назови 5 малоизвестных исследований по психологии потребителя 2024 года” — и таких исследований нет в её обучении, он всё равно придумает похожие названия.

Много похожих формулировок Когда он выдает что-то типа: "Согласно исследованию Гарвардского университета 2025 года..." — это не потому, что он точно знает, что оно было. А потому что много раз видел, как такие формулировки используются.

Это ошибка в коде?

Нет. Это не баг, а естественное поведение языковой модели, у которой нет категорий правда/ложь.

“Ну и зачем мне эта теория?”

А всё просто. Если ты понимаешь, что из себя представляет ChatGPT и как он работает, то добиться нужно результата намноооого легче. Галлюцинации — это не сбой, а естественное поведение статистической языковой модели, которая просто пытается тебе угодить.

Главное, что нужно знать: Чем менее конкретный и фактический твой запрос — тем больше вероятность, что он начнет фантазировать. И да, всегда проверяй за ним правильность дат и названий. Либо используй функцию веб-поиска (она доступна на платном тарифе).

В предыдущем посте я рассказывал, как составить универсальный промт, который сам подскажет тебе лучший промт под твою задачу.

Если не читал — посмотри, это прям лайфхак.