Япония: когда система начинает учитывать то, чего человек ещё не сделал
У японской платформы Rikunabi несколько лет работал сервис DMP Follow. Он анализировал поведение студентов на платформе и рассчитывал вероятность того, что конкретный кандидат прекратит участие в отборе в ту или иную компанию.
Для работодателя это была дополнительная информация: если кандидат, по прогнозу системы, с большей вероятностью уйдёт из процесса, можно иначе распределить время рекрутеров и внимание к соискателям.
Но для самого студента ситуация выглядела иначе. Он ещё ничего не решил и, возможно, вовсе не собирался отказываться от вакансии. Тем не менее его предыдущие действия уже превращались в прогноз будущего поведения, который получал работодатель.
В 2019 году японская Personal Information Protection Commission выявила проблемы с получением согласия на такое использование данных. Recruit Career прекратила сервис, потребовала у корпоративных клиентов удалить полученные оценки и позже изменила внутренние процедуры работы с данными. При этом подтверждённого случая, где конкретному студенту отказали в найме именно из-за такого балла, в корпусе нет - этого вывода делать нельзя.
Для темы ко-адаптации здесь важна асимметрия. Организация получает возможность заранее приспосабливать своё поведение к предполагаемому поведению кандидата. А сам кандидат даже не обязательно знает, что рядом с его резюме появилась такая характеристика.
Получается, что технологии прогнозирования могут менять отношения ещё до того, как человек совершил действие: одна сторона начинает реагировать уже не на самого человека, а на модель его возможного будущего.
Источники
