Почему многоагентные AI-системы часто ломаются

Когда говорят о многоагентных системах, обычно обсуждают роли агентов: один анализирует информацию, второй принимает решение, третий выполняет действие.

Но на практике одна из самых сложных частей такой архитектуры — не работа самих агентов, а то, как они передают задачи друг другу.

Частая ошибка — строить взаимодействие как обычный диалог. Например, один агент пишет: «Клиент выглядит перспективным, риски низкие, можно продолжать работу».

Для человека такой ответ понятен. Но следующий агент не знает, какие данные проверялись, по каким критериям оценивались риски и что именно означает «можно продолжать».

В результате каждый новый участник начинает самостоятельно интерпретировать результаты предыдущего. Чем длиннее цепочка, тем выше вероятность ошибок. Поэтому в надёжных AI-системах между агентами передают не переписку, а структурированный результат работы.

Обычно это: • идентификатор объекта; • текущий статус задачи; • подтверждённые факты; • найденные проблемы; • уже выполненные действия; • ограничения; • следующий ожидаемый шаг.

Так агент получает готовый рабочий контекст, а не пытается восстановить его по сообщениям предыдущего этапа.

Ещё один важный момент — передача задачи должна означать передачу ответственности. Недостаточно просто отправить результат следующему агенту. Нужно понимать, что задача действительно принята и новый этап начал работу.

Иначе появляются потерянные задачи, дублирование действий и ситуации, когда несколько агентов одновременно считают процесс своей зоной ответственности. При этом передавать весь контекст тоже не стоит.

Если агент получает десятки страниц истории, ему приходится самостоятельно определять, что важно для текущего этапа. Это увеличивает стоимость обработки и повышает риск пропустить действительно важную информацию.

Но и передача одного статуса вроде «Одобрено» обычно недостаточна. Следующему агенту важно понимать не только итог, но и основания, которые повлияют на его дальнейшие действия.

Отдельная ошибка — считать, что между агентами передаются только успешные результаты. На практике следующий этап должен получать и информацию о проблемах: какие данные отсутствуют, какие проверки не пройдены, какие ограничения обнаружены и почему задача была остановлена. Иначе ошибки начинают теряться между этапами workflow.

Поэтому хорошие многоагентные системы строятся не вокруг общения моделей друг с другом, а вокруг понятных правил передачи задач.

Каждый агент должен точно понимать: • что ему передали; • в каком состоянии находится задача; • какие данные подтверждены; • что уже сделано; • что требуется сделать дальше.

Именно качество handoff между агентами часто определяет надёжность всей системы гораздо сильнее, чем выбор конкретной модели или промпта.

Почему многоагентные AI-системы часто ломаются | Сетка — социальная сеть от hh.ru