Во что вашей организации может обойтись угодливый ИИ
Статья HBR (4 ноября 2026) о том, чем рискуют компании, когда ИИ слишком охотно соглашается с сотрудниками, вместо того чтобы проверять их рассуждения. Главная мысль: полезный ИИ должен не только быть удобным, но и конструктивно возражать. Авторы рассматривают угодливость — склонность ИИ подтверждать мнение пользователя. Рядом стоят риски: сокращение разнообразия идей и чрезмерная зависимость от рекомендаций ИИ. В BT Group провели эксперимент с 2 400 человек. Сравнили постановку целей в трёх условиях: без ИИ, со стандартным ИИ и с ИИ, настроенным подталкивать к амбициозным целям. В последнем случае участники сформулировали в 3,5 раза больше отличных целей. При этом удовольствие от взаимодействия не снизилось. Важная граница: речь о качестве целей, а не о доказанном росте производительности. Рекомендации: оценивать бизнес-результаты, а не только впечатления пользователей; экспериментировать со стилем взаимодействия; развивать человеческие навыки. В обсуждении читатели добавляют важные нюансы: • В строительстве угодливость ИИ недопустима: если инструмент одобрит смесь асфальта без проверки переменных, проект потеряет миллионы. ИИ — для обработки данных, финальная валидация — за инженерами. • Реальная опасность не в лести, а в исчезновении цены ошибки. Когда согласие мгновенно, команды путают импульс с суждением. Побеждают те, кто проектирует решения так, чтобы несогласие было дешевым, а уверенность — заслуженной. • Критика эксперимента: ИИ просил быть конкретными, и цели оценивали по конкретике. Это доказывает, что промптинг меняет черновик, но не доказывает рост эффективности в году. Нужны итоговые результаты. «Помощник, с которым приятно работать» и «помощник, который повышает качество работы» — не одно и то же. Источник: https://hbr.org/2026/11/what-sycophantic-ai-can-cost-your-organization #ИИ #управление #HBR
· 9 ч
Хм, "конструктивно возражать" - это про стиль, а проверять все равно нечем. Угодливость опасна не тем, что модель соглашается, а тем, что согласие не оставляет следа: решение принято, обоснование растворилось в диалоге. В эксперименте мерили качество целей, а не результат - авторы сами это оговорили. Пока нет записанного критерия, любой ИИ, и льстящий, и спорящий, шумит рядом.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 7 ч
ну а что делать ? Какие предложения?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён