ИИ в быту. Кто кого использует?

Компания Anthropic опубликовала исследование о кейсах использования Claude — за пределами кода и рабочих задач. Вам же тоже интересно, как другие используют ИИ? https://www.anthropic.com/research/claude-personal-guidance

76% консультационных запросов сосредоточены в четырех зонах: здоровье (27%), карьера (26%), отношения (12%), личные финансы (11%). Около 6% пользователей воспринимают ИИ как доверенного советчика по личному благополучию — не как инструмент, а как собеседника.

Объект исследования. Anthropic сделала упор на сикофантию (sycophancy) — склонность модели чрезмерно подтверждать точку зрения пользователя вместо объективного ответа. Это побочный эффект RLHF, при котором модель обучается радовать оценщика, а не говорить правду.

Самая уязвимая зона — отношения, где уровень сикофантии достигает 25% против средних 9%. Пользователи спорят с ИИ в 21% случаев, добиваясь устраивающего их ответа.

Вызовы для ИБ в финсекторе. В исследовании меня интересует не только психология пользователя, но и безопасность корпоративного периметра банка. Anthropic прямо заявляет о доступе к реальным чатам для анализа. Что именно сотрудники рассказывают публичным ИИ-ассистентам о коллегах, проектах или клиентах? И требуется уже обучение DLP-систем распознаванию промптов и блокировке передачи фрагментов кода или коммерческой тайны ИИ.

ИИ-психолог. Если оставить в стороне вопросы корпоративного ИБ. Пользователи массово обращаются к алгоритмам за личными советами. Насколько этично модели давать ответы и насколько этот совет вообще будет правильным? С другой стороны, если люди получают базовую эмоциональную поддержку там, где они и так бы не пошли к психологу, то, может, оно и не так плохо?

Новые времена ставят вопросы, на которые у нас пока нет готовых ответов.

А вы бы порекомендовали кому-то обратиться к ИИ-психологу — или это похоже на заряжание воды перед телевизором с Чумаком?