В этом споре я выбираю код. Особенно когда агент работает не в песочнице, а выходит наружу.

Задача. Для Конвейера новостей об ИИ (ночью собирает и проверяет новости об ИИ и готовит пост дня для Telegram) мне важно было определить не только, что агент умеет делать, но и что ему вообще доступно.

Что было в цифрах. Замера до изменений у меня нет. Нет и цифр по попыткам выйти за рамки. Значит, честное «до» здесь - отсутствие измерений, а не придуманная оценка риска.

Что сделал. Права перенёс из промпта в код: если у агента нет ключа, запрет не зависит от того, насколько внимательно модель прочитала инструкцию. А действия, которые нельзя тихо отменить, оставил за собой - наружу выходит только то, что прошло через мою кнопку. 🔒

Ещё одно изменение - не оставлять сбой без следа. Если агент работает ночью, утром должно быть видно, что он делал. Иначе контроль превращается в надежду, что всё прошло штатно.

Что стало в цифрах. Цифры не изменились: сравнивать нечего, замера до и после нет. Результат здесь пока не процент и не экономия времени, а более понятная граница ответственности. Подробно разобрал решение здесь.

Что сделал бы иначе. Составил бы список выданных прав ещё до первого прогона. Когда вспоминаешь об этом позже, легко пропустить лишний доступ. И важно помнить: ключ не спасает, если он открывает слишком многое, а кнопка не спасает, если её нажимают не глядя.

Кому подходит. Такой подход полезен, если агент обращается к внешним системам или делает то, что нельзя незаметно откатить. Живые примеры я складываю в витрину кейсов

А как вы проводите границу между тем, что агент может сделать сам, и тем, что подтверждает человек?