Заявка поступает в систему. AI-агент проверяет данные, меняет статус и отправляет клиенту письмо.

Через минуту сотрудник обнаруживает, что один из документов заполнен некорректно. Формально комплект полный, но продолжать работу с заявкой нельзя.

Кто должен остановить процесс? Агент, который выполнил предусмотренное действие? Сотрудник, обнаруживший проблему? И что делать с уже отправленным клиенту сообщением?

Или никто, потому что такого случая в маршруте не предусмотрели?

В описании AI-агента первым делом появляются его возможности.

Он может разобрать входящие обращения, проверить комплектность данных, подготовить проект ответа, выбрать следующий шаг и передать задачу нужному сотруднику.

Список получается впечатляющий. Почти как новый сотрудник, только без отпуска.

Но для процесса важнее другое: какие действия агент может выполнять самостоятельно?

Он может работать по заданным правилам, проверять данные и запускать предусмотренные операции. Критерии того, что считать достаточным результатом, какое отклонение допустимо и когда решение нужно передать человеку, определяет компания.

Она же задаёт границы его полномочий. Ответственность за эти границы и последствия решений остаётся у людей.

В материале НИУ ВШЭ о готовности бизнеса к внедрению AI-агентов указано, что 86% опрошенных компаний адаптируют бизнес-процессы после внедрения таких систем. Более 80% сообщили, что у них чётко определены ситуации, когда к принятию решения должен подключаться человек.

Получается, агент не просто встраивается в готовый маршрут. Сам маршрут приходится пересматривать.

Если агент только собирает данные и предлагает следующий шаг, это один порядок работы. Если он меняет статус обращения, отправляет клиенту сообщение или запускает оплату, требования уже другие. Нужно определить, какие данные достаточны для действия, какие операции разрешены без проверки, где требуется подтверждение и что происходит при отклонении от обычного маршрута.

По данным того же исследования, 40% организаций за последний год отключали отдельные функции AI-агентов или возвращались к предыдущей версии из-за проблем с безопасностью.

Если границы не определены, автоматизация начинает жить рядом с процессом, а не внутри него. В системе появляется новый статус, в инструкции - новая оговорка, а в рабочих чатах - вопрос: «А это теперь тоже делает агент?»

Для меня важна не степень автономности сама по себе, а её границы в конкретном процессе: где агент действует самостоятельно, где стоит контрольная точка и кто принимает решение при отклонении.

Технология может выполнить действие по заданному правилу. Но она не должна сама устанавливать границы собственных полномочий.

Если завтра AI-агент начнёт действовать в вашем процессе, будет ли понятно, что ему разрешено, где нужна проверка и кто отвечает за последствия?

Ещё больше обо мне | sergey-suslov.ru