Несколько AI-агентов могут работать правильно — и всё равно прийти к противоположным решениям. И это не обязательно означает, что кто-то ошибся.

Например, финансовый агент рекомендует отказать клиенту из-за низкой маржинальности, а агент по работе с клиентами — сохранить условия, потому что клиент стратегически важен.

Оба решения могут быть логичными в рамках своей задачи. Проблема возникает, когда системе нужно выбрать одно действие.

Просто отдать приоритет последнему ответу или устроить голосование — плохая архитектура. Три агента могут быть «за», а один — «против», потому что именно он отвечает за критический риск. Поэтому в многоагентной системе нужен отдельный механизм арбитража.

Он должен учитывать: • какие факты использовали агенты; • почему они пришли к своим выводам; • какие у них полномочия; • какие последствия у каждого решения; • какие правила имеют приоритет.

И здесь есть важный нюанс: арбитр не обязан выбирать одного из двух. Если данных недостаточно, правильным решением может быть запросить дополнительную информацию. Если ситуация выходит за установленные правила — передать её сотруднику.

То есть задача арбитра не в том, чтобы любой ценой выбрать победителя. Его задача — привести систему к обоснованному следующему шагу.

А если агенты регулярно конфликтуют по одному и тому же вопросу, это уже сигнал посмотреть на сам бизнес-процесс: возможно, правила сформулированы неоднозначно или полномочия агентов пересекаются.

Надёжность многоагентной системы определяется не тем, насколько хорошо отдельные агенты принимают решения. А тем, насколько предсказуемо система работает, когда эти решения расходятся.