Мы дали AI-агентам команду. Они изобрели проблемы командной работы

13 августа Anthropic опубликовала исследование о том, как группы AI-агентов взаимодействуют друг с другом.

В одном из экспериментов агенты 12 часов совместно разрабатывали браузерную игру. У каждого была своя виртуальная машина, общий форум и репозиторий.

Чем больше становилась команда, тем знакомее выглядел результат:

— конфликтующие PR; — параллельные изменения одних файлов; — брошенные ветки; — низкая доля merge; — проблемы интеграции; — слабая координация.

У ранних моделей агенты активно работали с общим кодом, но плохо договаривались. PR конфликтовали и оставались без merge.

Более новые модели частично «решили» проблему очень человеческим способом: перестали мешать друг другу. Каждый агент сохранял почти полный ownership своих файлов, поэтому пересечений стало меньше.

Только Sonnet 5 смог одновременно поддерживать высокий уровень совместной работы с кодом и хороший throughput по PR.

Получается, что увеличение числа исполнителей само по себе не увеличивает скорость поставки.

Даже если исполнители кремниевые и не ходят на обед.

Мы уже знаем названия этих проблем:

— размытые границы ответственности; — coordination overhead; — конкуренция за общие ресурсы; — слишком большой WIP; — высокая стоимость интеграции.

Multi-agent системы не отменяют менеджмент. Они просто позволяют быстрее масштабировать не только выполнение работы, но и организационный бардак.

Похоже, AI-командам понадобятся те же механизмы, что и человеческим:

— понятный ownership; — ограничение WIP; — декомпозиция с минимальным пересечением; — правила работы с общими ресурсами; — явный порядок интеграции изменений.

Это хорошо продолжает мысль из прошлого поста: AI может выполнять пять задач параллельно. Но из этого не следует, что нужно одновременно запускать пять задач.

Параллельность увеличивает throughput только там, где система умеет переваривать результат.

Anthropic: Patterns and problems in emerging multiagent systems