Москва: когда масштабировать контроль оказалось проще, чем исправлять его ошибки
Весной 2020 года Москва использовала приложение «Социальный мониторинг» для контроля людей, которым было предписано соблюдать домашнюю изоляцию.
Система работала с геолокацией и запросами селфи; за зафиксированные нарушения назначались административные штрафы.
Независимый анализ судебных данных позднее насчитал около 10,2 тыс. жалоб по части статьи, связанной с выходом из дома и штрафами «Социального мониторинга», хотя официальные оценки количества именно судебных жалоб были значительно ниже.
Методы подсчёта различались, поэтому эти цифры нельзя считать непосредственно сопоставимыми. В ежегодном докладе федерального Уполномоченного по правам человека есть несколько конкретных историй.
В одном случае москвичку не предупредили, что она должна установить приложение. Она оставалась дома, но получила два штрафа - 8 и 13 мая. После обращения омбудсмена оба постановления отменили.
В другом случае проверка установила, что постановление было сформировано из-за технического сбоя «Социального мониторинга», после чего его также отменили.
Для меня этот кейс прежде всего про распределение работы между человеком и системой.
Автоматизация позволила контролировать большое количество людей без соответствующего количества физических проверок.
Но когда цифровой сигнал не совпадал с реальной ситуацией, обратный процесс уже не был столь же автоматическим.
Человеку приходилось звонить, собирать документы, писать жалобу, обращаться к омбудсмену или в суд.
То есть технология масштабировала обнаружение предполагаемого нарушения значительно быстрее, чем масштабировалась возможность исправить ошибку.
Независимые журналистские данные того периода как раз описывали существенную нагрузку, связанную с обжалованием таких штрафов.
Это тоже форма ко-адаптации, только довольно неравномерная: система меняет поведение человека и процедуру контроля, а затем реальные ошибки заставляют государственный процесс достраивать способы пересмотра.
Вопрос здесь не только в точности технологии. Важно ещё и то, сколько человеческой работы требуется, чтобы вернуть реальную ситуацию в систему после того, как она описала её неправильно.
Источники
