Ученые из Калифорнийского университета в Мерседе провели #эксперимент , который выявил серьезную проблему «сверх доверия ИИ».
Методология эксперимента: 1. Участники управляли виртуальным беспилотником в симуляции. 2. Задача состояла в том, чтобы определить, является ли цель на экране врагом или союзником. 3. После принятия решения участником, виртуальный робот с ИИ предлагал свое мнение. 4. Важно отметить, что советы ИИ были случайными и не основывались на реальном анализе ситуации. 5. У участников была возможность изменить свое первоначальное решение после получения совета от ИИ. 6. Эксперимент проводился с использованием роботов разного внешнего вида - от человекоподобных до чисто механических. 7. Участникам сообщали об ограниченных возможностях ИИ и вероятности ошибок.
Факты: 1. 66% участников меняли свое решение, когда ИИ не соглашался с ними. 2. Первоначальная точность решений участников - 70%. После "советов" ИИ она упала до 50%. 3. Внешний вид ИИ-системы не влиял на уровень доверия к ней. 4. Участники игнорировали предупреждения об ограниченных возможностях ИИ.
Что это значит на практике? Во-первых, мы слишком доверяем ИИ. Это опасно, особенно в областях - медицине, безопасности, финансах. Во-вторых, нужно разрабатывать методы повышения прозрачности ИИ-систем. Пользователи должны понимать, как ИИ приходит к выводам. В-третьих, необходимо обучать людей критическому отношению к #ИИ.
Как вы думаете, какие меры можно (если нужно) предпринять, чтобы научить людей критически относиться к рекомендациям ИИ?
