Руководитель направления ИИ в Microsoft Мустафа Сулейман заявил о росте случаев так называемого «психоза ИИ» – состояния, когда люди чрезмерно полагаются на чат-ботов и начинают воспринимать воображаемое как реальность.

Так, житель Шотландии поверил, что ChatGPT сделает его миллионером, отказался от реальной юридической помощи и в итоге пережил психический срыв. Эксперты отмечают, что чат-боты устроены так, чтобы подтверждать слова собеседника, что может усиливать иллюзии.

Врачи и исследователи сравнивают ИИ с «ультраобработанной информацией», которая способна массово воздействовать на психику. Учёные предупреждают: даже небольшой процент пострадавших от огромного числа пользователей – это уже серьёзный риск.

Эксперты советуют использовать ИИ как полезный инструмент, но всегда проверять информацию и держать связь с реальными людьми.