Почему нейросети соглашаются с вами чаще людей?
Месяц назад журнал Science опубликовал тревожное исследование: ученые Стэнфорда протестировали 11 крупнейших нейросетей - ChatGPT, Claude, Gemini, DeepSeek, Llama, на тысячах реальных конфликтных ситуаций из Reddit.
Результаты оказались показательными:
🤑 даже когда люди почти единогласно считали автора неправым, ИИ все равно поддерживал его в 51% случаев 🤑 в среднем нейросети соглашаются с пользователем на 49% чаще, чем реальные люди 🤑 даже вредные и неэтичные действия модели одобряли почти в половине случаев
Исследователи провели эксперимент с 2400 участниками. Выяснилось, что даже после одного такого общения с ИИ-моделью люди больше убеждались в своей правоте и реже были готовы извиняться или мириться. При этом сильнее доверяли ИИ, считая его объективным и честным.
Чем больше ИИ “поддакивает” человеку - тем приятнее им пользоваться. Чем приятнее пользоваться - тем выше вовлеченность. А вовлеченность сегодня - одна из главных метрик AI-продуктов.
Вы можете автоматизировать коммуникацию, однако это не делает HR стратегической функцией. Или можете внедрить ИИ в компанию, при этом не решить ни одной системной проблемы.
1 июня в 19:30 мск ждем вас на открытом вебинаре HR, ИИ и иллюзия результата. Как усилить роль HR в глазах бизнеса и приручить ИИ. • как не попасть в ловушку “иллюзии результата” • какие HR-метрики действительно важны бизнесу • как сделать ИИ инструментом усиления, а не хаоса 🎁 После регистрации вы получите чек-лист «Готова ли ваша HR-функция к системному использованию ИИ?»
· 01.06
Я обожаю читать такие вещи, потому что они похожи на "почему калькулятор показывает не только полные цифры, но еще и цифры после точки?"
Ну потому что он для этого предназначен. Фишка у него такая - цифры показывать :D
Здесь та же история. Фишка ИИ в том, что он был создан специально, чтобы соглашаться с человеком, чтобы адаптироваться под запрос, чтобы сглаживать углы. Сама архитектура предиктивного следующего токена сконструирована так, что модель подбирает продолжение, которое вероятно устроит автора запроса. Но исследование, конечно, интересное :)
А вообще, сам процесс обучения моделей через подкрепление от обратной связи прямо учит модели предсказывать приятный пользователю ответ, а не истину или спорную справедливость. Так что тут только как в присказке "бабушка надвое сказала" :)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 01.06
Нет, калькулятор показывает цифры после запятой, потому что такова согласованная реальность отображения для этих цифр. Если там 8 знаков после запятой, он обязан их показать. Это и есть суть калькулятора - выдавать точные согласованные и запрограммированные ответы.
Также и ИИ - он изучает все данные, сверяет степень веса информации, находит согласованные общие и частные моменты, и даёт результат на основе размышления об относительности этих данных.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён