Алгоритм уже может повлиять на то, возьмут ли человека на работу, дадут ли ему кредит, выплату или доступ к услуге. А что происходит, если это решение нужно проверить, оспорить или исправить?
На сайте PST Lab вышел обновлённый аналитический отчёт Атласа цифровых институциональных сдвигов.
В Атласе — 263 кейса из разных стран и сфер. В новом отчёте мы смотрим, насколько далеко цифровые системы вошли в реальные решения о людях и успевают ли вслед за ними появляться правила, механизмы оспаривания и ответственность.
Смотреть: https://pstlab.ru/atlas
· 20.08
В кредитовании это уже не гипотеза, а ежедневная практика. Решение по заявке принимает модель, а объяснять его клиенту приходится человеку — и на этом шаге обычно выясняется, что объяснить нечем.
Мой критерий такой: если по отказу нельзя назвать причину на языке клиента, модель не готова к продакшену. Точность при этом обычно немного падает. Это осознанная плата за то, чтобы компания могла ответить на вопрос «почему мне отказали».
Заберу Атлас, спасибо. Любопытно, есть ли среди 263 кейсов что-то про механизмы оспаривания именно в скоринге — по моим ощущениям это самая недоделанная часть.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 22.08
По скорингу есть очень яркие кейсы, когда система по соц выплатам признавала людей должниками, после чего они и соц выплаты не получали годами, и, более того, становились должны государству. Кейс Robodept например. Мы каждый день добираем кейсы, до данных дотягиваемся и собираем. Подумаем как отобразить всю БД на сайте.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён