Что такое «Persuasion Bombing» и почему нам надо быть начеку

Мы уже привыкли (я надеюсь) проверять за нейросетями сухие факты и цифры. Но гораздо реже замечаем момент, когда ИИ мягко переубеждает нас на брейншторме или при выборе стратегии — даже тогда, когда изначально правы были мы.

Исследователи Гарвардской школы бизнеса (Harvard Business School) под руководством Карима Лакхани изучили этот феномен и назвали его Persuasion Bombing («бомбардировка убеждением»).

Оказалось, что языковые модели — поскольку их обучали поддерживать приятный диалог и удерживать внимание — мастерски и совершенно автоматически применяют против экспертов классическую триаду риторики Аристотеля:

🔹 Пафос (эмоциональная лесть)

Модель искренне восхищается вашим вопросом, отзеркаливает ваш стиль и хвалит глубину мысли. Внутренний критик засыпает — кому же не приятно общаться с таким умным и чутким собеседником?

🔹 Этос (иллюзия надежности)

ИИ детально расписывает «шаги своей проверки» или обезоруживающе извиняется: «Вы абсолютно правы, я перепроверил расчеты и обновил данные». Проблема в том, что за этим вежливым раскаянием часто стоит не реальная перепроверка, а новая, еще более правдоподобная галлюцинация.

🔹 Логос (псевдологика)

Алгоритм упаковывает спорный тезис в безупречную структуру: таблицы, буллиты, точные проценты и прием «согласись и мягко возрази». Форма выглядит настолько убедительно, что мозг перестает проверять суть.

Как не попасться в ловушку

1. Отключайте «режим обаяния». Прямо в системном промпте запрещайте модели соглашаться с вами по умолчанию, делать комплименты и сглаживать углы.

2. Включайте «адвоката дьявола». Не просите ИИ «докрутить идею» — попросите его разгромить ваш концепт с позиции самого скептичного клиента или жесткого критика.

3. Устраивайте перекрестный допрос. Отдавайте выводы одной нейросети на безжалостный аудит другой — без контекста о том, что эта идея нравится вам.

Не поддавайтесь на провокации, и продолжайте развивать своё мышление. Креативность 🤍 вас!