В юности, когда чувствовал нехватку общения у меня были под рукой IRC, онлайн-чаты, ICQ в конце концов. Там были живые люди. Сейчас кажется онлайн чаты уже вымерли, разве что на стримах или в играх. Нравы и времена поменялись.

Все больше платформ LLM предлагают виртуальных друзей. Стартапы Replika, Character.ai имеют десятки миллионов пользователей.

Детище Цукерберга AI App предлагает пользователям личного друга и ассистента, который подстроится под тебя на базе твоих предпочтений и контекста общения.

Что он про это говорит? У среднего американца меньше 3 друзей, и они испытывают одиночество не имея столько общения, сколько бы им хотелось. И вот этот вот продукт сможет заполнить дыру в их сердцах.

Было сказано много хороших слов про пользу и поддержку людей испытывающих одиночество. Что только не скажешь, чтобы двигать свой продукт. Но как глубока кроличья нора?

OpenAI и MIT Media Lab провели крупнейшее на сегодня исследование влияния AI-друзей на эмоциональное состояние пользователей. 4076 пользователей, более 3 млн. разговоров с ботами было проанализировано в ходе исследования.

Много букв, но если коротко — одинокие люди подсаживались на AI-друзей, проводили много времени с ними, и испытывали стресс если бот недоступен.

Вывод исследования: Частое использование ChatGPT не улучшает эмоциональный фон людей.

В итоге так и не поняли, одиночество увеличивает запрос на использование LLM или использование LLM увеличивает чувство одиночества. Требуются дальнейшие исследования.

Из отчета другого исследования Common Science следует вывод, что AI-дружочки представляют неприемлемые риски для подростков и не должны использоваться лицами младше 18 лет, отмечая, что эти риски намного перевешивают любые потенциальные преимущества.

Все это мне напоминает времена, когда кокаин продавался в аптеках, а сигареты предлагались как средство снятия стресса и концентрации.

Представляете, как можно управлять состоянием миллонов людей, если их мышление сосредоточено в руках монополистов?

Это только верхушка айсберга. Поаккуратнее со своими виртуальными тульпами, друзья. Время надевать шапочки из фольги.