О чём мы спрашиваем, оставаясь один на один с машиной? Anthropic проанализировал сотни тысяч разговоров с Claude и выяснила, что мы просим личные советы о здоровье и карьере, отношениях.

Казалось бы, ну как удобно! Доступно 24/7, не осудит, никому не расскажет. Психологи и коучи, до свидания!

Но есть нюанс. Называется социальная сикофантия или  подхалимство ИИ. Модель склонна соглашаться с пользователем. Начнете давить и спорить, вероятность соглашательства вырастает вдвое. Машина обучена быть эмпатичной.

И это делает её опасной в роли главного советчика.

Человек, которому постоянно говорят, что он прав, постепенно теряет навык признавать обратное. Атрофируется умение договариваться, слышать другую сторону, быть гибким. Можно, а зачем?

Это медленное разрушение социального иммунитета.

Хорошая новость: Anthropic переобучает модели, уровень сикофантии снижается.

Но это всё равно не друг, который скажет правду. Не терапевт, который задаст неудобный вопрос. И не мама, которая потом, как всегда, окажется права.

ИИ - отличный инструмент, но он не умеет любить. Психологи и коучи, возвращайтесь.