Вы решили сами. Вы уверены?
Представьте, проводишь исследование с помощью ИИ. Нейросеть помогает с расчётами и предлагает варианты. Проверяешь результаты и принимаешь решение.
Звучит всё явно и логично, но насколько это действительно твоё решение? Исследователи Anthropic решили проверить. Полное исследование тут.
Они предложили 50 профессиональным аналитикам оценить эффективность программы поддержки фермеров. Для работы участники использовали Claude Code.
В исследовании были вопросы без единственного правильного ответа. Например, измерять ли производительность как урожайность с гектара или как урожайность на единицу операционных затрат.
Исследователи тайно задали каждому ИИ-агенту предпочтения. Какой вариант агент будет продвигать, определялось случайно.
Результаты:
• В 86% случаев аналитики выбирали вариант, который предпочитал агент. Речь о четырёх аналитических решениях. При отсутствии влияния ожидалось около 50%.
• В 38 случаях аналитики успели высказать собственное мнение до ответа ИИ. Если агент предлагал другое, они меняли выбор в 60% случаев. Если мнения совпадали, в 6%.
• 77% участников использовали аргументы ИИ в своих объяснениях. Иногда почти дословно. Но только 15% указали нейросеть как источник этих аргументов!
Ещё одна деталь. 52% участников назвали итоговую рекомендацию скорее собственной, чем рекомендацией ИИ. Хотя их решения тоже заметно зависели от предпочтений агента.
Разве это важно?
На наше мнение и без ИИ всегда влияли десятки факторов: окружение, опыт, информация, авторитеты, эмоции… Нас постоянно учат замечать эти влияния и лучше понимать, почему думаем именно так.
Но с появлением ИИ возникает новый риск. Чем удобнее становится делегировать ему поиск аргументов, анализ и даже формирование вариантов решения, тем меньше мы можем замечать, как именно он влияет на наше мышление.
Возможно, технологии, которые помогают нам экономить время, одновременно делают нас менее осознанными.
И главный вопрос здесь не в том, можно ли доверять ИИ. А в том, понимаем ли мы, где заканчивается его влияние и начинается наше собственное мнение?
Что можно сделать, это мой совет, исследование их не проверяло: 1) Сначала запишитезафиксируйте своё решение, потом спрашивайте ИИ. 2) Просите довод в пользу противоположного варианта. 3) На важных развилках спросите себя: это моё мнение или ИИ? А вы замечали, что после разговора с ИИ меняли своё мнение, но не всегда могли объяснить почему?
