ИИ мешает людям говорить «я не знаю»

Исследователи провели пять экспериментов с участием 3000 человек. Участникам задавали сложные вопросы о малоизвестных деталях фильмов. Они могли ответить сами, спросить ИИ или честно выбрать «я не знаю». Вопросы были подобраны так, чтобы чат-бот почти всегда давал неверный ответ.

С доступом к ИИ точность участников упала втрое — с 27,5% до 9,2%, а их уверенность выросла в среднем в 2,5 раза — с 29,6 до 75,9 балла из 100.

Но самое большое изменение произошло в реакции людей на неопределенность. Без ИИ участники признавались, что не знают ответа, в 36-44% случаев. С чат-ботом этот показатель упал до 3-6%. Даже финансовое вознаграждение за правильный ответ и штраф за ошибку не вернули им готовность признавать неопределенность.

Исследователи предполагают, что готовый, уверенно сформулированный ответ снижает внутренний порог сомнения у людей. Вместо того чтобы спрашивать, достаточно ли они знают, они просто выбирают между своей догадкой и ответом модели.

Вы перепроверяете ответы ИИ?

❤️ — Да, конечно 😐 — Нет, обычно мне лень