В Конвейере новостей об ИИ (ночью собирает и проверяет новости об ИИ и готовит пост дня для Telegram) я поменял сам принцип доступа: ограничение должно существовать не только в инструкции, но и в коде. Замера до и после у меня нет, поэтому численных данных об эффекте тоже нет.

Задача была своя: система работает с внешними источниками, и границы её действий нужно определить до того, как она наберёт объём.

До изменений у меня не было числовой базы: я не считал попытки выйти за рамки и не измерял, сколько действий агенту следовало остановить. Значит, сравнить безопасность системы до и после в цифрах нельзя.

Что я поменял: права выдаются через код. Запрет в промпте - просьба к модели. Отсутствие ключа - ограничение, которое нельзя отменить одной неудачной формулировкой. Для меня это и есть важное «до и после»: не более убедительная инструкция, а другой уровень контроля.

Что стало в цифрах? Ничего измеренного. Сравнения до и после у меня нет, поэтому результат нельзя выразить числом.

Что сделал бы иначе: завёл бы список выданных прав в первый день, ещё до первого прогона. Тогда было бы проще проверить, какие доступы действительно нужны, а какие появились просто по инерции.

Такой подход подходит тем, кто выпускает агента за пределы тестовой среды и хочет понимать, что именно ему доступно. Но и код не спасает, если выдать слишком широкие права: ограничения нужно регулярно пересматривать.

Подробно разобрал логику и её границы здесь: ИИ-агенты пытаются взламывать банки: что я поменял у своих. Живые примеры я складываю в витрину кейсов

Как вы фиксируете права ИИ-агентов: в коде, в журнале доступов или пока только в промпте?