Что вы уже доверяете агентам?
Представьте, что речь не о разработке с помощью ИИ, а о процессе, который выполняется в рантайме: агент сам принимает решения и выполняет работу во время исполнения.
Допустим, есть два варианта одного процесса:
🔹 Детерминированный — медленнее, зато результат предсказуем.
🔹 Агентный — значительно быстрее, но менее предсказуем при запуске без дополнительной настройки и отладки.
А что лично вы уже готовы доверить агенту?
— отвечать на письма; — искать и обрабатывать информацию; — работать с документами; — принимать решения по рутинным задачам; — запускать действия в программах.
И что вы уже доверяете агентам сегодня, а что пока только готовы попробовать?
Где для вас проходит граница?
Какой процесс вы бы не отдали агенту даже ради существенного выигрыша в скорости?
· 12.08
Обязательно должны быть критерии приемки задачи. Без этого ставить задачу агенту будет неразумно. Какие еще варианты защиты могут быть - автотесты, если это уместно и покрытие позволяет или другие варианты защитной сетки в виде автоматических проверок результата, а также проверка результатов работы другим агентом.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 12.08
Спасибо за мнение! А под процессами приемки задачи подразумевается обязательный HITL перед выполнением задачи или работа над задачами, решения которых обратимы (есть rollback)?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 12.08
Нет, HITL не про критерии приемки, а про постоянный контроль человеком. А я имел в виду наличие условий, выполнение которых сигнализирует агенту о том что все хорошо и можно идти дальше.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 12.08
Например, финтех - агент подготовил платежку, но приложил неверный подтверждающий документ, так как оценил его по названию а не по содержанию в целях экономии токенов/вре ени. Критерии приемки могут описывать требования к содержанию приложенных документов, а Agent-as-Judje может детально рассмотреть содержимое на соответствие требованиям.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 12.08
Спасибо за развернутый ответ!
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён