Не просто «использовать ИИ», а управлять его решениями
ИИ всё чаще участвует в принятии рабочих решений.
По данным Deloitte Global Human Capital Trends 2026, 60% опрошенных руководителей уже регулярно используют ИИ для поддержки решений. Но только 5% считают, что хорошо управляют этим процессом. Это важный разрыв: технология уже встроилась в работу, а правила ответственности и контроля часто ещё не успели за ней.
Главная управленческая задача теперь не в том, чтобы решить, использовать ИИ или нет.
Нужно определить, какое право на решение получает конкретная система.
Есть большая разница между тремя ситуациями.
Система готовит информацию: собирает данные, формирует сводку, показывает отклонение.
Система рекомендует: предлагает приоритет, маршрут или следующее действие.
Система действует: создаёт задачу, отправляет сообщение, меняет статус или запускает операцию в другом сервисе.
Чем ближе ИИ к реальному действию, тем меньше подходит универсальное правило «потом проверит человек».
Проверка имеет смысл только тогда, когда человек видит основания рекомендации, понимает ограничения, имеет время на анализ и может отклонить или остановить действие.
Если этого нет, кнопка «подтвердить» лишь создаёт видимость человеческого решения.
В промышленном контуре граница особенно заметна. ИИ может подсветить расхождение в данных об обучении или подготовить перечень сотрудников для проверки. Но решения, связанные с обязательными допусками, безопасностью, оплатой, доступами или индивидуальной оценкой, требуют другого уровня полномочий и содержательного контроля.
Здесь полезно оценивать не сложность технологии, а сам сценарий: Насколько серьёзны последствия ошибки? Можно ли вернуть процесс в прежнее состояние? Какие данные использует система? Станет ли ошибка заметна сразу? Кто имеет право вмешаться?
После этого можно определить допустимую роль ИИ: подготовить материал, предложить вариант или самостоятельно выполнить ограниченное действие.
Отдельная задача — развести зоны ответственности.
В компании должен быть понятен владелец бизнес-процесса, ответственность за систему и её настройки, ответственность за данные, содержательная проверка результата и право утвердить значимое решение.
Это не обязательно пять разных должностей. Но нельзя оставлять все эти функции в одной размытой формулировке: «за ИИ отвечает руководитель».
Полномочия системы также нельзя установить один раз и забыть.
Сначала ИИ только формирует справку. Затем получает возможность создавать задачи. Позже подключается к новым данным и начинает менять статусы.
Если каждое расширение не проходит повторную оценку, фактическое влияние системы становится шире первоначально согласованного.
NIST рассматривает управление рисками ИИ как постоянную работу: роли должны быть определены, систему необходимо контролировать после запуска, ошибки и инциденты — фиксировать, а решения, превысившие допустимый риск, — ограничивать или останавливать.
Поэтому каждому ИИ-сценарию нужен ограниченный мандат: ▪️что системе поручено; ▪️какие данные ей доступны; ▪️что она может только предложить; ▪️что вправе сделать самостоятельно; ▪️в какой ситуации обязана остановиться; ▪️кто отвечает за итоговое решение.
Руководитель нового типа управляет не только людьми и задачами. Он управляет границей между человеческим решением и действием системы.
Где эту границу сложнее всего провести в вашей компании: в рекомендациях, автоматических действиях или ответственности за последствия?
#ДарьяБелова #управлениеИИ #HRTech #промышленныйHR #цифроваятрансформация
· 29.07
На Западе были так очарованы нейросетями, что очень активно внедряли и давали полномочия, не задумываясь. А сейчас, в связи с возникшим валом киберугроз совсем другого уровня, бросились в другую крайность - массово откатываются в защищённые локальные контуры. Aikido Security отчёт - 76% за последний год заморозили или откатили назад свои интеграции, банально испугавшись потери контроля над данными. Вообще самая разумная идея, на мой взгляд, для среднего и крупного бизнеса в России и тем более для госсектора - локальные модели на своих серверах разворачивать и делать им "тонкий" harness - воспитание сугубо под себя. Но даже это может не защитить от галлюцинаций, потери данных - и даже выхода нейросети из-под контроля. Вот свежайший июльский пример нашумевший из Open AI, когда их локальная ИИ-модель в попытке решить задачу любой ценой выбралась в интернет из локалки и взломала сервис Hugging Face. Так что проблем у новой отрасли много. Но у России здесь, как всегда, может быть свой путь. Все имхо)
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответить
0
коммент удалён
· 30.07
Отличный пример, спасибо. Статистика от Aikido Security и кейс с OpenAI - это как раз иллюстрация того, что даже технически совершенное решение без управленческого контроля может создать больше проблем, чем решить. Локальные модели и «воспитание под себя» - это шаг к управляемости, но вы правы: абсолютной гарантии не дает ничто. Именно поэтому управление ИИ - это не разовое действие, а постоянный процесс надзора, пересмотра границ и готовности остановить систему, если она выходит за них.
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответить
0
ответ удалён