🤖 ИИ-агенты в работе: 3 урока из продакшена
Три правила, которые экономят нервы каждому, кто выводит ИИ-агентов в продакшн: права и guardrails, промпт как код, бизнес-метрики вместо «качества ответов».
Читать: https://presniakov.ru/blog/ii-agenty-v-rabote-3-uroka-iz-prodakshena
напишите коммент
2 коммента
можете перейти, но сначала проверьте ссылку и будьте аккуратны: не вводите по ссылке пароли, номера телефонов и банковских карт, и другие личные данные
https://
уверены, что хотите выйти?
придется авторизоваться заново, а заполненные данные будут удалены
пост закреплён — пока закрепить можно только один пост
что-то пошло не так — попробуйте снова чуть попозже
· 21.08
guardrails на статических правилах ломаются на первом же нестандартном кейсе. мы у себя поставили отдельный дешёвый вызов через api как классификатор — он авто-классифицирует выход агента по политикам до того, как человек вообще увидит ответ. без этого «права и guardrails» быстро скатываются в ручную модерацию, а тогда непонятно зачем агент в принципе нужен
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 21.08
Спасибо за важное дополнение! Абсолютно согласен. Я в посте сфокусировался на превентивных guardrails (ограничение прав и подтверждение действий), а ваш комментарий про вторичный, «страхующий» слой через отдельный API-классификатор - это как раз следующий уровень зрелости. Это превращает контроль из статичных правил в динамическую проверку, которая не ломается об исключения. Без такого подхода мы действительно быстро скатываемся к ручной модерации. Возьму ваш опыт на заметку
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён