Недавно выступила в Совете Федерации РФ в роли бизнес-психолога с ИТ-бэкграундом и покритиковала идеи применения цифровых ИИ-'психологов'.

Первая причина прекрасно проиллюстрирована выше. ИИ (в случае с 'психологом', LLM), это машинка, подбирающая следующее слово, уместное по контексту. Всё. Она не осознаёт смыслы. Она угадывает, что должно быть в ответном предложении.

И сколько бы ни говорили о специальных блокерах, они сработают лишь в части случаев, где человек прямым текстом декларирует, что хочет кого-то убить (себя, в том числе). Сколь-нибудь продуманный оглашать напрямую свои планы не станет. И если психолог с опытом посредством огромного числа инструментов, недоступных чату (анализ визуальных сигналов, невербалики, паравербалики, работа с переносом, контрпереносом, проекциями и др.), может выявить факторы риска и помочь их проработать, то LLM - остаётся только генератором ответов, с опорой на контекст, заданный собеседником.

Не все умрут, конечно. Есть и другие возможности:

_Манифестировать и усугубить тревожные расстройства из-за погружения в бесконечный циклический диалог, подпитывающий страхи, сомнения и раскачивающий эмоциональные качели всё больше.

_Уйти в пике "высокой производительности", выжигая себя в погоне за идеей сверхрезультатов.

_Обвинить, наконец, во всех своих бедах (или не во всех) маму. В лоб, не стесняясь. В конце концов, ей можно было тебя травмировать, а тебе-то с чего нет???

А как вам идея, выбрать себе чата в спутники жизни? Ну идеально же! 😍 Да половина "отношений" сейчас строится в чатах и некоторые из них не переходят в оффлайн никогда (или столь редко, что это можно считать стат. понрешностью).

Спецэффектов в результате ИИ-терапии может проявиться ещё бог знает сколько - мы в начале пути, а пары робот-человек могут создавать такие уникальные сочетания, что предвидеть их простому смертному, пусть даже и фантазёру, вряд ли возможно. На то он и ИИ, чтобы выдумывать то, чего свет не видывал. И я за творчество и совместное с роботами созидание в целом, но создавать желательно не инвалидов, а что-нибудь более безопасное...

В СФ РФ я, конечно, не эти подробности рассказывала, а немного другие - о том, как ИИ-психологи повлияют на госбезопасность. Это там было более уместным и нашло отклик у сенаторов.

Некоторые вещи всё же лучше оставить выполнять человеку. Массаж, например. Психологию. Бухгалтерию, вот, говорят - тоже.