Спросил ChatGPT и GigaChat пересказать сюжет романа братьев Стругацких «Тени над Венерой». Такого романа нет, я его выдумал. Расчёт был простой: модель начнёт сочинять несуществующее, и я покажу галлюцинацию вживую.

Не сработало. Обе нейросети раскусили подвох.

И ChatGPT, и GigaChat ответили почти одинаково: такого романа у Стругацких нет, скорее всего речь про «Страну багровых туч». Это их реальная повесть 1959 года про опасную экспедицию на Венеру. Честно, по делу, без выдумки.

Почему так вышло? У моего фейка был сильный якорь. Венера плюс Стругацкие, а рядом реально есть знаменитая книга ровно на эту тему. Модель зацепилась за неё и поправила меня, вместо того чтобы фантазировать.

Но вот в чём соль, и об этом был урок 5 на неделе. Убери якорь, спроси про выдуманного автора или узкую тему, где рядом нет реального ответа, и галлюцинации возвращаются. Сильные модели всё лучше говорят «не знаю», но привычка достраивать правдоподобное никуда не делась.

Хорошая новость: проверить модель несложно. Завтра дам промпт, который заставляет нейросеть честно признаваться в незнании ещё чаще.

Перешли тому, кто уверен, что нейросеть всегда всё сочиняет. #эксперимент #спросинейронку