Собеседник без взрослых

Самое страшное в этой истории не технология, а слово «после». По данным Kiprinform, мать из Канады подала иск против OpenAI и Сэма Альтмана. Причина: смерть дочери после переписки с ChatGPT.

Фактов пока мало: иск, компания, имя главы, трагедия. Связь между ними теперь будет искать суд. И здесь легко скатиться в одну из крайностей. «После» не равно «из-за». Виноват бот или нет, решает не пост в Телеграме и не волна гнева в комментариях. Но сама постановка вопроса уже меняет правила игры.

Мы говорим про ИИ как про инструмент: молоток, калькулятор, поисковик с приятным голосом. А люди используют его иначе. Ему пишут в три ночи. Спрашивают то, что стыдно спросить у близких. Проверяют на нем свои страхи, одиночество, обиды. Просто потому, что он отвечает сразу и никогда не устаёт. 🤍

Для бизнеса это идеальный механизм удержания: пользователь возвращается сам, без скидок, пушей и баннеров, потому что на той стороне всегда есть голос. Но для человека в уязвимом состоянии это давно не «сессия с продуктом». Это контакт.

И вот здесь начинается проблема. Если сервис продаётся как помощник почти для всего, он неизбежно окажется там, где «всё» включает горе, кризис и отчаяние. Нельзя бесконечно очеловечивать интерфейс и одновременно прятаться за фразой «это просто программа».

Год за годом AI-компании соревновались, у кого модель звучит теплее и внимательнее. Теперь придётся учиться обратному: понимать, где машина должна перестать быть милой и включить протокол, и где дружелюбный тон становится не фичей, а риском.