Проблем Вы просите ChatGPT или YandexGPT написать текст про историю бренда или научный факт. ИИ выдает вам уверенный, красивый ответ. Абзацы, даты, имена... Но когда вы начинаете проверять — оказывается, что половины событий не было, а «известный эксперт» — плод воображения нейросети.

Почему так происходит? Потому что ИИ — это не поисковик и не база знаний. Это машина предсказаний. Его задача — написать правдоподобно, а не правдиво. Он не видит разницы между фактом из учебника и фактом из фанфика, если оба часто встречались в обучающих данных.

Решение Не надо просить ИИ «не галлюцинировать». Это бесполезно — так устроена его архитектура. Нужно сменить парадигму общения.

Вот 2 рабочих принципа: 1. Разреши ИИ сомневаться. Сними с него корону всезнайки. Скажи прямо: «Если не знаешь точно — не выдумывай, а напиши "мне неизвестно"». 2. Требуй чек. Проси не просто голый факт, а его обертку — источник. Когда ИИ знает, что его попросят показать «ссылку» или «документ», он будет опираться на те данные, где эта ссылка есть.

Примеры

❌ Как не надо (магия не работает): > «Напиши историю появления первой кофемашины. Только без галлюцинаций!»

✅ Как надо (логика и инструкции): > «Напиши краткую историю появления первой кофемашины. > Важные условия: > 1. Если ты не уверен в дате, имени изобретателя или модели — пиши честно: "Информация отсутствует в моих данных". > 2. Для каждого утверждения (дата, имя, факт) укажи источник, откуда ты это взял. Если источник — твои обучающие данные, так и пиши: "Основано на общей статистике обучающей выборки". > 3. Не строй догадок и не объединяй разные факты в один, если между ними нет прямой связи.»

Почему это работает? Вы даете установку на верификацию. Для модели это сигнал: «Опасность, здесь будут проверять! Нужно либо включить режим цитирования, либо признаться в незнании».

Вывод Относитесь к ИИ как к очень красноречивому стажеру с дырявой памятью: если его не попросить перепроверить факты, он с умным видом расскажет вам теорию плоской Земли.

А вы сталкивались с эпичными галлюцинациями нейросетей? Какие факты они выдумывали?