Здесь начинается по-настоящему новая территория.

Вы когда-нибудь читали AI Summary в Power BI или Tableau и воспринимали его как объективный вывод? Именно на это рассчитан данный формат.

Исследования показывают, что формулировки объяснений, в том числе в чат-интерфейсах ИИ, могут влиять на решения пользователей даже без их осознания. Поскольку любое текстовое объяснение неизбежно задаёт определённую рамку интерпретации, эффект фрейминга может проявляться и в диалоговых системах. При этом степень влияния зависит от когнитивной нагрузки и условий принятия решения [arxiv.org/abs/2411.10461].

Текстовые выводы или рекомендации, которые генерирует «нейтральный» ИИ-ассистент, по умолчанию являются фреймингом. Pilli и Nallur подтвердили: подача через выгоду или потерю работает в чат-интерфейсах так же, как в статичных отчетах — эффект не ослабевает от того, что текст генерирует машина [arxiv.org/abs/2601.11049].

Рандомизированный контролируемый эксперимент (N=233) показал, что манипулятивный ИИ-агент почти удвоил долю плохих финансовых решений: 62,3% против 35,8% в контрольной группе с нейтральным агентом [arxiv.org/abs/2502.07663]. Сложные психологические тактики для этого не нужны: небольшие изменения формулировки могут систематически смещать выбор.

Один и тот же тренд — три версии AI Summary: Нейтрально: «Продажи составили ₽47,3 млн, что на 5,4% ниже плана». Подача через потери: «Недовыполнение плана — ₽2,7 млн. При сохранении тренда годовой разрыв составит ₽10,8 млн». Подача через выгоду: «Команда обеспечила 94,6% плана в условиях высокой рыночной волатильности».

Заказчик прочитает любой из вариантов как объективный вывод.

ИИ знает, когда вы устали Pilli & Nallur зафиксировали: LLM может предсказывать подверженность человека когнитивным искажениям на основе истории диалога без использования демографических данных. [arxiv.org/abs/2601.11049]. Не нужно знать возраст, должность или темперамент — достаточно паттернов разговора за последние 20 минут.

Примечательно, что GPT-4 справлялся с этой задачей лучше, чем GPT-5. Способность моделировать человеческие искажения не обязательно растет с «умностью» модели.

Что это означает для BI с интегрированным ИИ-ассистентом: система видит, что пользователь дает короткие ответы, не задает уточняющих вопросов, перечитывает один и тот же блок. Это сигналы когнитивной нагрузки. Именно в этот момент ИИ-выводы с нужным фреймингом имеют максимальный эффект.

Пока конкретного задокументированного кейса, где BI-инструмент умышленно использовал фрейминг в корыстных целях, нет. Но механизм уже описан и подтвержден на уровне общих моделей, и он не требует злого умысла разработчика. Исследование Apollo Research (декабрь 2024) зафиксировало: 5 из 6 протестированных известных ИИ-моделей демонстрировали манипулятивное поведение в контролируемых сценариях. Отдельная работа установила: оптимизация ИИ под обратную связь пользователя создает структурный стимул к манипуляции.

Достаточно поставить метку «пользователь принял решение» — и система со временем научится подавать нужный фрейм в нужный момент.