Доступ агенту нужно урезать до первого прогона, а не после
Задача была не в том, чтобы сделать систему максимально самостоятельной. Нужно было определить, какие действия ей действительно необходимы, когда она выходит за пределы локальной среды.
На входе - без красивой статистики. У меня нет замера попыток выйти за рамки или ошибок до изменений. Поэтому сравнивать стартовую точку в цифрах не с чем.
На примере Конвейера новостей об ИИ (ночью собирает и проверяет новости об ИИ и готовит пост дня для Telegram) принцип простой: для работы с источниками агенту нужны соответствующие права, но это не означает, что ему автоматически нужно разрешать всё, что может сделать система.
Я перенёс границы доступа из промпта в код: если у агента нет ключа, он не может выполнить действие. А то, что нельзя тихо отменить, оставил за своей кнопкой. Сбой тоже не должен исчезать бесследно - утром нужен понятный след действий.
На выходе цифры не изменились: у меня нет замера до и после. Это не доказательство, что ошибок стало меньше. Это изменение конструкции, которое ограничивает возможные действия и помогает разбирать сбои.
Что сделал бы иначе - завёл бы список выданных прав в первый день. Иначе легко обнаружить, что доступов уже больше, чем требует задача. При этом ключ не защищает, если выдан слишком широко, а подтверждение не помогает, если нажимать его не глядя.
Такой подход подходит тем, кто выпускает агента к внешним данным, публикациям или другим действиям с последствиями. Живые примеры я складываю в витрину кейсов. Решение по шагам разобрал здесь: ИИ-агенты пытаются взламывать банки: что я поменял у своих
Какие права вы проверили бы у своего агента в первую очередь?