Uber: цена известна заранее, но как она сформировалась?

В начале сентября водители Uber из нескольких европейских стран начали судебное разбирательство в Амстердаме, в центре которого оказался механизм формирования оплаты поездок. Водитель заранее видит предложенную сумму и может решить, брать заказ или отказаться, поэтому с точки зрения интерфейса система действительно создаёт определённость. Спор начинается на следующем уровне — с вопроса о том, на основании чего эта сумма рассчитывается именно для конкретного водителя.

Истцы утверждают, что алгоритмическая система может учитывать данные о поведении и профиле водителя и в результате предлагать разным людям различную оплату за сопоставимую работу. Uber это оспаривает и утверждает, что индивидуальное поведение водителя не используется для персонального снижения цены.

Поэтому делать вывод о доказанном «персональном назначении зарплаты алгоритмом» пока нельзя: это как раз предмет продолжающегося спора.

Для меня здесь интересна сама конструкция. Формально решение о том, работать или нет, остаётся за человеком: он видит сумму и нажимает «принять» или отказывается от заказа. Но пространство этого выбора уже сформировано системой, которая определила, какую именно альтернативу ему предложить.

Это немного меняет привычный вопрос об алгоритмическом управлении. Машине не обязательно предоставлять право принять окончательное решение за человека. Достаточно передать ей возможность определять условия, внутри которых человек потом делает собственный выбор.

И тогда прозрачность становится нужна не только в случаях «алгоритм решил». Иногда человеку важно понимать, почему именно такой набор возможностей вообще оказался перед ним.

Источник: The Guardian — Uber drivers launch European class action over AI algorithm