Человек в контуре ИИ: где контроль становится имитацией

Я спокойно отношусь к ИИ в HR.

Не с восторгом «сейчас всё заменим». И не со страхом «алгоритмы разрушат профессию».

ИИ уже помогает в подборе, аналитике, коммуникациях, адаптации, обучении, удержании. И будет помогать дальше.

Но есть одна управленческая ловушка, которую я всё чаще слышу в разговорах об автоматизации.

Компании говорят: «Финальное решение всё равно остаётся за человеком». Звучит безопасно. Модель рекомендует. HR проверяет. Руководитель согласует. Человек остаётся в контуре принятия решения.

Но вопрос не в том, есть ли человек где-то в процессе.

Вопрос в том, может ли он реально управлять решением.

Если HR видит рекомендацию, но не понимает её основания, это не контроль. Если руководитель нажимает «согласовать», но не может объяснить, почему система выделила именно этого кандидата или этого сотрудника, это не контроль. Если модель подсветила группу риска, а HR не знает, какие данные легли в основу вывода, это не контроль.

Это имитация контроля.

В HR такая имитация особенно опасна, потому что мы работаем не с абстрактными объектами, а с решениями о людях.

Кого пригласить на следующий этап. Кого считать подходящим. Кого отнести к группе риска увольнения. Кому предложить развитие. Где искать причины текучести. На какую команду обратить внимание руководителя.

Даже если ИИ не принимает финальное решение, его рекомендация уже направляет внимание HR и руководителя. А внимание — это ресурс. Если система подсветила одного кандидата, другого могут посмотреть бегло. Если система отметила сотрудника как риск, руководитель может начать видеть его иначе. Если алгоритм показывает «проблемное» подразделение, HR может прийти туда с готовой гипотезой, ещё не проверив контекст.

Поэтому я не считаю кнопку согласования настоящим человеческим контролем. Настоящий контроль начинается с других вопросов.

На каких данных построена рекомендация? Какие данные не учтены? Есть ли перекос в прошлой истории решений? Не повторяет ли модель старые ошибки компании? Можно ли объяснить вывод руководителю? Можно ли объяснить его кандидату или сотруднику, если потребуется? Кто несёт ответственность за финальный выбор?

В промышленном HR эта логика особенно важна. Там много факторов, которые плохо видны в таблице: смены, вахта, наставник, мастер, участок, условия выхода, период адаптации, реальные причины увольнений, неформальная нагрузка на команду.

Модель может найти закономерность. Но HRD должен понять, можно ли этой закономерности доверять. И главное — что с ней делать. Я не против автоматизации. Я против ситуации, когда технология выглядит умнее процесса, который её обслуживает.

Хороший ИИ в HR должен помогать HRD видеть закономерности, ускорять ручную работу и проверять гипотезы. Но он не должен превращать HR в оператора чужого вывода. Человек в контуре — это не тот, кто стоит в конце процесса и нажимает «одобрить». Это тот, кто может спорить с моделью. Видеть основания рекомендации. Понимать качество данных. Не использовать вывод, если он не объясним. И отвечать за финальное решение. Мой критерий простой: если HRD не может объяснить, почему AI рекомендовал этого кандидата или этого сотрудника в группу риска, значит, решения ещё не готовы к использованию. Не потому что ИИ плохой. А потому что управленческий контур ещё не собран.

Как вы считаете, что опаснее в HR Tech: слабая модель или сильная вера в модель без права спорить с ней? #ДарьяБелова #HRПромышленности #HRTech #ИИвHR #HRаналитика

Человек в контуре ИИ: где контроль становится имитацией | Сетка — социальная сеть от hh.ru