Как по мне, нет ничего удивительного, что коллаборация не состоялась. Для того чтобы коллаборация случилась, будь то агенты или люди, необходимы три условия:

• коллаборанты должны иметь стимул к решению общей задачи; • их интересы в этой задаче должны отличаться и находиться в некотором противоречии; • необходим арбитр — тот, кто балансирует мнение коллаборантов и выносит общее решение.

Если нет общего стимула, то они не встанут с дивана: один или оба.

Если нет противоречий в интересах, то решение рискует впасть в крайность — она станет аттрактором.

Если нет арбитра, то коллаборанты рискуют впасть в бесконечные дебаты о том, кто прав.

Если этого нет, то это всё-равно, что взять на улице двух случайных людей и надеяться, что они вместе просто так построят дом. И неважно, люди это, агенты или ещё кто — это общие “законы”, вытекающие из теории систем. Так работают системы, так живут организмы, так работают компании и государства.

Это не означает, что для коллаборации обязательно нужны трое. Это именно три условия, а не три сущности. Например, они действуют внутри одного человека, пытающегося принять взвешенное решение, выписывая плюсы-минусы и анализируя их. Или если коллаборанта два, то кто-то из них должен подвести итог, предложить компромисс, с которым второй согласится.

Если мы хотим добиться конструктивной коллаборации агентов, мы должны проектировать их взаимоотношения так же, как мы делаем это в случае людей. Нам кажется, что в случае людей это иначе — мы просто запираем их в комнате, ставим задачу и получаем результат. Почему с агентами не так?

На самом деле, с людьми тоже “не так”. Проектирование коллабораций людей тоже ведётся, просто мы это не всегда осознаём. Оно происходит на уровне корпоративной системы стимулов и разделения ответственности и глубоко опирается на особенности природы человека: уязвимость к последствиям своих действий (физических, финансовых, правовых, социальных), стремление к благу и самосохранению, внутренние нормы. То есть, к моменту начала коллаборации эти условия в значительной мере уже выстроены и можно просто ставить задачу.

В случае агентов мы этого не делаем или делаем в недостаточной форме. И, что самое главное, коллаборация должна проектироваться как целое, сверху вниз. Нельзя просто задать стимулы для отдельных агентов и надеяться на успех — они должны быть совместно контр-сбалансированы и согласованы с арбитром. Это общее правило для систем.

Но создавать для агентов систему стимулов к необходимому коллаборативному поведению так, как мы делаем это для человека, не получится. Агент имеет другую природу и другие свойства. Например, он неуязвим к последствиям своих действий как человек, он не желает богатства и признания, у него нет внутренних норм и т.п.

Как же тогда на него воздействовать?

Для поиска ответа на этот вопрос и задумана исследовательская программа “ИИ-автоматизация”.