Забывчивость ИИ агента
Столкнулся с проблемой. Пока строю своё изделие, которое позволит создавать автоматическую команду Личностей для разработки, изучения и вообще решения любых задач. Но делаю это пока единственным агентом. Несмотря на наличие памяти и последовательной инструкции, он периодически что-то забывает и в связи этим теряется возможность полной автоматизации. Приходится повышать уровень контроля. В итоге пришел к мысли, что когда закончу разработку, в команде Личностей обязательно должен быть контролёр ОТК. Всё как в жизни...
· 42 мин
Контроллер ОТК как просто ещё один агент особо ничего не даст - суть модель-судья. Сама система должна минимизировать предрасположенность к дрейфу: якоря должны связывать спеку и код, например в виде семантической разметки, графа и т.д Да и в последнее время есть большие сомнения, что ролевая модель устойчива на длинных траекториях.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 26 мин
🤔 хм, принял, записал. Буду изучать
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 10 мин
Модель судья, оч интересно. Как вариант в будущем. Множества моделей заточенных под свое. Думаю крутая идея. Впринципе мне этот подход понятен и есть некоторые наработки. Можно даже попробовать реализовать на группе мелких. Главная, какая-нибудь ЛФМ-3 1.7Б управляет задачами музыки, фото и видео. Так же и в остальных направлениях. Я впринципе уже имею интеграцию с Комфи. Но боюсь что это уже другой уровень и другие технические ресурсы. Загружать пачки моделей ехохо...
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён