(это первая статья серии об ИИ-автоматизации и её месте в корпоративной архитектуре)

Приятная для глаз картина Я только что попросил поисковик дать мне 5 типичных хайповых тезисов о внедрении ИИ. Под номером 3 оказался тезис о полной замене сотрудников ИИ.

И это похоже на правду: в последнее время я не раз слышал этот тезис от представителей бизнеса.

Это можно понять. Современные LLM демонстрируют интеллектуальное поведение, прекрасно работают с неструктурированными данными, могут обобщать, делать выводы, планировать свои действия, адаптировать их соответственно изменениям ситуации, и все это на обычном человеческом языке — именно то, что раньше было очень трудно формализовать.

То есть, у нас есть сотрудник, выполняющий некоторую функцию, и ИИ‑инструмент, который ведёт себя как человек. Так почему бы не заменить человека агентом, чтобы теперь он выполнял эти действия? И почему бы вообще не заменить всех людей агентами и не получить ИИ-организацию?

Да, сейчас этот инструмент ещё несовершенен, но: • человек тоже несовершенен; • а LLM быстро развиваются и можно ожидать, что со временем поведение агента станет всё менее отличимым от человеческого; — так что, вроде бы, есть основания думать, что такая замена возможна.

Но мы, как архитекторы, должны копнуть чуть глубже уровня банальной очевидности. Особенно, если она исходит от маркетинга.

Организация как система Допуская такую замену, мы неявно предполагаем, что человек и агент взаимозаменяемы: заменяя человека агентом, мы просто заменяем один инструмент на другой. И, в какой-то степени, это действительно так. Но вот важный вопрос: а в какой именно? и на что это влияет?

А между тем, человек работает не сам по себе, он встроен в организацию. А организация — это сложная открытая социотехническая система; это не только набор функций, но и система управления, исторически построенная вокруг человеческой природы её элементов.

После замены человека агентом организация должна оставаться все так же устойчивой, а это значит, что её система управления должна продолжать работать. И мы делаем неявное предположение, что так оно и будет.

Но так ли это?

Человек как элемент системы Человек и агент могут быть эквивалентны в каких-то функциональных аспектах, например, сходным образом рассуждать и действовать. Но они не могут быть полностью эквивалентны во всех аспектах, поскольку имеют разную природу: человек — живое социальное существо, агент — технический компонент, созданный человеком.

Человек встроен в систему организации не только как чистая математическая функция, которая дает определенный выход при заданном входе и на этом все, но и как элемент системы управления. Собственно, организация — это система управления людьми, и, как таковая, предполагает наличие таких социальных элементов, как: • ответственность (как механизм закрепления решений внутри управленческого контура); • доверие; • ценности; • этику; • эмоциональные факторы; • контроль; • санкции; • иерархию.

То есть, человек социально встроен в ткань организации. Организация сконфигурирована под человека и активно использует его “нефункциональные” свойства в контуре управления.

Но ведь природа агента не является социальной…

При замене человека агентом меняется конфигурация управляемости — и это не всегда замечают.

Это лишь первый сигнал того, что всё может быть сложнее, чем кажется на первый взгляд.