🥺 Тем, кто хотел быть оркестратором ИИ-агентов, посвящается!

Мы же тут начали находить себе место в прекрасном будущем? Дескать, хорошо, ИИ будет выполнять работу, а мы, конечно, руководить, ставить задачи, распределять, проверять результаты. Кто-то же должен спрашивать у агентов: "Коллеги (с), а почему это до сих пор не готово?"

И вот некий Итан Моллик пишет, что это ошибочное предположение. https://www.oneusefulthing.org/p/the-dot-and-the-swarm Последний год он тоже предполагал, что мы будем управлять командами AI-агентов примерно так же, как управляем людьми. Назначим аналитика, исполнителя, проверяющего, над ними поставим менеджера, определим правила, кто кому передает результат и в каких случаях несёт вопрос наверх. В общем, всё знакомое. Можно даже должностные инструкции почти не переписывать.

Однако Моллика впечатлил эксперимент OpenAI, в котором тысячи агентов работали над математической задачей,обменивались миллионами сообщений, подхватывали идеи друг друга, развивали перспективные направления. Люди задали направление и немного поправляли ход работы.

Попробуйте представить такое с людьми. Уже на этапе "тысячи участников" вижу, что всё глохнет на совещании по согласованию состава рабочей группы. А агенты, похоже, как-то разобрались. Вот и возникает занятный вопрос: сколько управленческой работы существует потому, что сама задача сложная, а сколько — потому, что её выполняем мы?

Нам, людям, важно, кто получит признание. Мы не всегда охотно делимся информацией. Бывает, защищаем свой “участок”, даже когда это мешает общему делу. Да и просто не можем одновременно следить за работой тысячи коллег. А у агентов всё это может быть устроено иначе. И тогда наша привычная организация (с отделами, начальниками и согласованиями) им особо не пригодится.

Моллик вспоминает "горький урок" машинного обучения: люди годами придумывали, как научить машину решать задачу с помощью наших правил и знаний. А потом система получала больше вычислительных ресурсов и училась решать ее лучше сама. Возможно, с управлением агентами выйдет похожая история, - мы еще будем рисовать им оргструктуру, а они уже закончат работу. Конечно, между математическим экспериментом и внедрением продукта у реального заказчика есть некоторая (и кажется, что гигантская) дистанция. К тому же, если агенты прекрасно договорились между собой, это еще не значит, что они делают то, чего хотел заказчик. Мы, люди, и сами такое умеем.

Но для тех, кто занимается проектами и автоматизацией, вопрос уже вполне практический: “А не собираем ли мы сложный процесс там, где скоро будет достаточно поручить задачу целиком?” Сначала шаг А, потом Б, затем согласование, потом проверка. Мы долго выясняли порядок действий, аккуратно и с муками его описали в куче инструкций, автоматизировали. А через какое-то время агенту можно будет просто сказать, какой результат нужен, и дать доступ к необходимым данным. Вы скажете: "Ну уж управлять-то всё равно придётся человеку". Вполне возможно. Только придется заново разбираться, в чём именно состоит эта работа. #внезапное