Галлюцинации ИИ или как за 13 секунд рассуждений создать список мультфильмов, которых нет

В воскресенье я поставил сыновьям (5 и 3 года) мультфильм «Красная черепаха», 80 минут без слов. Они не оторвались. Медленный мультфильм без единого слова, но их это увлекло. Это как альтернативное (авторское) кино.

Захотелось собрать для других родителей подборку похожих мультфильмов, и я начал с того, что было под рукой: локальная qwen3.5:9b через Open WebUI.

Промпт честный: «Найди 10 лучших альтернативных мультфильмов типа Ежик в тумане, Красная черепаха». 13 секунд рассуждений, и пришла аккуратная таблица: режиссеры, годы, колонка «Особенность». И вывод в конце: «Каждый из этих мультфильмов требует вдумчивого просмотра». Я сначала переслал жене, параллельно решая рабочую задачу.

А потом вдумчиво я и посмотрел. Счет такой. 0 из 10 строк верны целиком. 2 искажают реальные мультфильмы. «Симпсоны: Конец мира» 2007 года на деле «Симпсоны в кино» Дэвида Силвермана. «Война Хоббитов» от «Питера Jackson» (так и написано, наполовину латиницей) с годами выпуска 2019-2019. Существует аниме «Война рохирримов» 2024 года, снял Кэндзи Камияма. 3 вообще не мультфильмы. «Лунный свет» это игровая драма Барри Дженкинса 2016 года. «Тень ветра» это роман Карлоса Руиса Сафона. «Коты» 2019 года это игровой мюзикл Тома Хупера, который разгромили критики. Модель записала его в «визуальное искусство высокого уровня». 5 не нашлись нигде: «Гравити Фоллз: Приключения Квизерта», «Майка», «Слезы твоей матери», «Маленький Пик», «Аниматор». Ближайший родственник «Маленького Пика» это советский «Мышонок Пик» 1978 года.

В дополнительных рекомендациях еще «Леди и Бобик» и «Кот Шредингера» с философским подтекстом. Кот, кстати, самый честный пункт списка: мультфильм одновременно существует и не существует, пока не проверишь.

Почему так работает: Это не глупость модели, это ее устройство. 9 миллиардов параметров это сжатая копия интернета с большими потерями. Без поиска у нее нет источника, есть только вероятность следующего слова. Она не вспоминает, а дописывает самое правдоподобное. Названия, имена и годы при сжатии теряются первыми. Уверенный тон не теряется никогда. При этом локальную модель я не ругаю. В бизнесе это часто правильный выбор: данные не уходят наружу, и это снимает часть вопросов по 152-ФЗ. Просто у нее другая работа: переписать, сократить, классифицировать и разложить текст, который вы ей дали. Знать мир это не ее работа.

Как это выглядит в компании: Та же механика, другие ставки. Список поставщиков, которых нет. Пункт закона, которого нет. Цена конкурента, которую никто не видел. Таблица будет такой же аккуратной, а вывод таким же уверенным.

Мои правила: 1. Факты только с поиском или по вашей базе знаний. На вопросы «кто, когда, сколько» модель без источника не отвечает, а сочиняет. 2. Ссылка на каждое утверждение, и открывать хотя бы выборочно. Ссылки тоже бывают выдуманными. 3. Красивая форма не доказательство. Чем аккуратнее таблица, тем внимательнее проверка. 4. Все, что уходит клиенту, в отчет или ребенку, проходит через человека.

Проверка заняла у меня больше времени, чем генерация. Это нормальная экономика ИИ: он экономит время на черновике, а не на ответственности.

Подборку я в итоге собрал заново: модель Claude Sonnet 5,5 с веб-поиском + коннектор в мою Gamma (конструктор сайтов и през с AI агентом) + ручная сверка каждой позиции по открытым источникам. 24 мультфильма по возрастам, с вопросами для разговора с ребенком. Если у вас есть дети, забирайте: https://canine-snake-cbtexus.gamma.site/

А какая самая уверенная галлюцинация попадалась вам в работе? Пишите в комментариях, соберу коллекцию для следующего разбора.