Коллеги, добрый день!

В трёх наших каналах проголосовали 60 человек: · «Я: подписала, значит, отвечаю» — 52 голоса (87 %); · «Тот, кто внедрил Олега и не научил его проверять» — 6 голосов (10 %); · «Никто: ошибки бывают у всех» — 2 голоса (3 %); · «Олег: это была его задача» — 0 голосов.

Ни одного голоса за Олега. Очень мы ответственные!!!

Но, знать, что отвечаешь за что-то, ещё не означает это проверять в реальности.

Предпоследнее исследование по этой теме: 👉Kupfer (2023): участники эксперимента выбирали пятерых из десяти кандидатов на две должности, в дашборде было заложено по три ошибки. Группа, которой напомнили «ответственность на вас», сильнее ощущала ответственность, но тщательнее проверять не стала. Внимательнее оказались те, кому заранее рассказали, где и как система может ошибаться. Итог исследования: профилактика ошибок работает лучше, чем апелляция к чувству ответственности.

При этом те 10 %, кто перенес ответственность на «того, кто внедрил», тоже правы.

👉Исследовательница Мэдлин Клэр Элиш описала этот эффект как moral crumple zone: при сбое вина ложится на человека в конце цепочки, хотя систему выбирали и внедряли другие.

За рубежом Европейский Регламент об ИИ (AI Act, Регламент (ЕС) 2024/1689) учитывает это проблему переноса ответственности: согласно ст. 26(2), контроль за системами высокого риска (а автоматизированный отбор кандидатов отнесён к ним по Приложению III) должен быть поручен людям с нужной компетенцией, обучением и полномочиями.

А что, собственно, у нас в этой сфере:

Идея «отвечает человек, а не алгоритм» у нас закреплена прямо — но на уровне принципа, а не процедуры. Национальная стратегия развития ИИ (утв. Указом Президента РФ от 10.10.2019 № 490, в ред. Указа от 15.02.2024 № 124) в принципе «защищённость» (п. 19 «к») требует разграничивать ответственность разработчиков и пользователей технологий ИИ исходя из характера и степени причинённого вреда. Аналога статьи 26(2) европейского AI Act — с её требованием поручать контроль только обученным людям с полномочиями — в российском праве пока нет.

Поэтому наши суды работают с общими нормами — и практика это подтверждает. Распределяется ответственность между людьми: разработчиком — если дефект в системе, интегратором или владельцем — если нарушены стандарты и инструкции внедрения, пользователем — если нарушил правила применения.

Как доказать распределение ответственности на практике? Только документами, которые появились до ошибки: 1. Приказ о внедрении, где назван ответственный за систему: настройку, обучение пользователей и контроль качества результатов. 2. Регламент применения инструмента: для каких задач его можно использовать, что обязательно проверять и кто подписывает итоговые решения. 3. Прописанная обязанность проверять результаты ИИ в должностной инструкции, с подписью сотрудника об ознакомлении. 4. Записи об обучении: что конкретно рассказали об ошибках и уязвимостях инструмента и кто прошёл обучение. 5. Следы проверки: кто и что сверил (например, отметки в карточке кандидата, скриншоты, протоколы).

Душню, понимаю. Надеюсь, что на пользу.