«Человек в контуре» — ещё не значит, что решение находится под контролем человека

Мы привыкли обсуждать цифровизацию через эффективность. Но  что происходит с возможностью человека понимать, проверять и оспаривать решения, принимаемые с участием цифровых систем?

Выше приглашение к участию в исследовании «Цифровые решения и положение человека». За двое суток в пилоте приняли участие — 51 человек.

Результаты позволяют увидеть несколько существенных противоречий.

1. Присутствие человека в процессе не гарантирует реального контроля

В 17 из 20 содержательных ответов проверка цифрового результата отсутствовала или носила формальный характер. В 11 из 20 случаях полномочия человека, принимающего решение, были ограничены.

Это важное различие. Формально решение может оставаться за сотрудником, руководителем или комиссией. Но если у них нет необходимых данных, времени или полномочий для пересмотра результата, человеческое участие рискует превратиться в процедуру подтверждения.

2. Возможность оспорить решение существует далеко не всегда

В 22 из 29 ответов процедура пересмотра оказалась недоступной или непонятной. О попытке оспорить решение сообщили только 3 из 25 участников, ответивших на соответствующий вопрос.

При этом отсутствие жалобы нельзя автоматически интерпретировать как согласие. Среди 22 ответивших на вопрос о причинах отказа от оспаривания восемь считали его бесполезным, пятеро опасались последствий. Ещё восьмерых результат устраивал.

Здесь возникает принципиальный вопрос: можно ли считать процедуру справедливой, если человек не понимает, каким образом изменить её результат?

3. Автоматизация не всегда устраняет работу — иногда она перемещает её

В 20 из 32 эпизодов участники сообщили о дополнительных действиях вокруг цифровой системы: необходимости разбираться в её работе, перепроверять результаты, адаптироваться или искать обходные решения.

В 13 из 18 содержательных ответов такая дополнительная работа не учитывалась.

Исследование не измеряло фактическую производительность или финансовые результаты. Но оно показывает возможную слепую зону оценки эффективности: организация может учитывать скорость выполнения операции системой, не фиксируя время, которое люди тратят на взаимодействие с ней.

4. Ответственность за результат может становиться менее определённой

В 15 из 29 ответов участники указали, что за последствия решения, по их восприятию, «фактически никто» не отвечает.

Это не юридическая оценка распределения ответственности. Но важный показатель того, насколько понятны человеку роли участников процесса.

Если система повлияла на решение, сотрудник его формально утвердил, а организация установила правила, кто должен объяснять результат, пересматривать его и исправлять последствия?

Есть и ещё один показательный результат.

Оценки понятности цифрового решения и доверия к нему оказались тесно связаны: коэффициент корреляции Спирмена составил ρ = 0,73 при 32 наблюдениях.

Это не означает, что достаточно добавить объяснение, чтобы повысить доверие. Корреляция указывает на значимость понятности решений как самостоятельного направления дальнейшего исследования.

Исследование не описывает исключительно негативный опыт. Из 32 эпизодов семь имели благоприятный исход, десять — нейтральный, девять — неблагоприятный; ещё пять продолжались, а один исход оставался неизвестным.

Главный вывод пилотного исследования заключается не в том, что цифровые системы принимают плохие решения. Их техническая точность не оценивалась.

Проблема глубже: цифровизация меняет не только способы обработки информации, но и распределение возможностей влияния, ответственности и дополнительных затрат.

Поэтому оценивать внедрение цифровых решений следует не только по производительности системы, но и по всей траектории решения:

— знает ли человек об участии технологии; — может ли проверить основания результата; — существует ли содержательная, а не формальная возможность пересмотра; — кто отвечает за исправление последствий; — учитываются ли дополнительные трудозатраты людей.

Детали - в презентации