Снижение затрат в мультиагентных системах за счет скрытого обмена данными
Современные сценарии автоматизации с использованием нескольких взаимодействующих агентов часто работают медленно и дорого из-за необходимости пересылать текстовые сообщения между ними. Фреймворк RecursiveMAS решает эту проблему за счет обмена внутренними математическими представлениями напрямую, минуя стадию текстового перевода до получения финального ответа.
Такое решение ускоряет работу всей системы до 2.4 раз и снижает потребление токенов более чем на 75 процентов, одновременно повышая точность выполнения задач при написании кода и анализе данных. Это открывает новые возможности для построения высокоскоростных автономных систем для бизнеса.
Ссылка: https://www.google.com/url?q=http://karpathy.github.io/2015/05/21/rnn-effectiveness/&sa=D&source=editors&ust=1779029369124900&usg=AOvVaw2ekCRsRTV2T4ZzE6MA96oM @AIandproducts
· 19.05
Смотрел на похожие подходы. Ускорение реальное, но первое что ломается в проде это дебаг. Когда агент передаёт текст видно что пошло не так. Когда передаёт вектор удачи с трейсингом.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён