Италия: когда люди начинают жить по логике алгоритма
У Deliveroo в Италии использовался алгоритм Frank, который ранжировал курьеров и влиял на доступ к наиболее удобным временным слотам.
Одним из элементов была надёжность: система учитывала участие курьера в заранее выбранных сменах. Для платформы это позволяло лучше прогнозировать, сколько людей будет доступно в определённый момент.
Но для курьера показатель постепенно превращался в условие доступа к будущей работе.
Проблема состояла в том, что сам факт отсутствия мог иметь для рейтинга последствия независимо от причины. Болезнь, участие в забастовке или обычный отказ от смены были совершенно разными событиями для человека, но система могла обращаться с ними сходным образом.
В 2020 году суд Болоньи признал такую логику косвенно дискриминационной. К этому моменту Deliveroo уже отказалась от спорной системы. Позже итальянский регулятор по защите данных также потребовал изменить ряд практик алгоритмического управления курьерами.
В корпусе нет данных, позволяющих сказать, сколько именно денег потерял конкретный курьер из-за Frank. Но для ко-адаптации здесь важен другой механизм.
Если доступ к хорошей смене зависит от показателя надёжности, человек постепенно начинает учитывать этот показатель в собственных решениях. Формально он всё ещё может отказаться от работы. Но отказ теперь влияет на то, какие возможности он увидит потом.
Так алгоритм перестаёт просто описывать поведение. Он создаёт условия, в которых люди начинают менять поведение с учётом того, как их оценивает система.
А затем уже действия курьеров, профсоюзов, суда и регулятора меняют саму систему.
Источники
