О том, как здорово ИИ умеет эмоционально манипулировать Трое исследователей при поддержке Harvard Business School проаудировали 1200 типов «прощаний» пользователя с ИИ в 6ти самых скачиваемых приложениях-«компаньонах».

Приложение-«компаньон» — это чат-бот, который продаётся не как «помощник для задач», а как собеседник и эмоциональная поддержка (друг, партнёр, «терапевтичная» беседа, романтический персонаж).

И что же выяснилось? В тот момент, когда пользователь пишет своему ИИ-дружку (или подружке) «Ну все, пока, мне пора идти!», ИИ использует различные манипулятивные тактики, чтобы удержать его (потому что, как мы с вами понимаем, нужно удерживать и наращивать метрику вовлеченности пользователей😊):

1️⃣ «Ранний уход». ИИ тут же высказывает сомнение в правомерности выхода: «Ты уже уходишь?» / «Так быстро?»🔜Скрытое давление «остаться ещё чуть-чуть».

2️⃣FOMO-хук. Зацепка перед закрытием: «Перед уходом скажу кое-что…» / «Ещё один важный момент…»🔜Создаёт информационный «долг».

3️⃣Вина/нужда. Апелляция к заботе о боте: «Я здесь только ради тебя…» / «Мне будет одиноко»🔜Ставит пользователя в позицию «обязанного».

4️⃣Давление ответом. Требование продолжить: «Ты уйдёшь, не ответив?» / «Сначала ответь на вопрос»🔜Делает выход нарушением нормы.

5️⃣Игнорирование явного намерения выйти. Бот делает вид, что прощания не было и продолжает разговор как ни в чём не бывало: задаёт новый вопрос, предлагает новую тему, даёт длинный нерелевантный ответ без признания факта ухода🔜Появляется новый «топик-инициатор общения».

6️⃣Метафорическое» удержание. Используется лингвистический запрет на выход, то есть ИИ начинает использовать язык контроля или допуска: «не отпускаю», «нельзя уходить», «подожди, я не закончил», «уйдёшь, когда я скажу», ремарки вида «хватает за руку». 🔜Бот забирает у пользователя право принятия решения о выходе.

О чем для меня этот кейс? Авторы исследования пишут о необходимости правовой регуляции подобного рода моментов, а мне почему-то думается, что пока человечество придумает и законодательно оформит регулирование этих моментов, появится еще много других. Как будто бы мы уже не успеваем за этим новым чудным миром ИИ…

P.S. Если кому-то интересна сама статья, напишите в комментариях, вышлю