Разработка агентов искусственного интеллекта, способных к самокоррекции.
Среди тем, которые мы рассмотрим, следующие:
-
Почему самокоррекция в языковых моделях работает только тогда, когда у агента есть внешний сигнал для проверки, и когда это не оправдывает затраты.
-
Как создать агент генерации кода с реальным верификатором на основе тестов, циклом ограниченного количества повторных попыток и структурированным путем эскалации.
-
Как добавить основанный на согласованности механизм проверки достоверности, который генерирует независимое второе решение для подтверждения корректности перед отправкой.