AI-агенту не обязательно видеть всё
Представьте, что AI-агенту разрешили обрабатывать заявки клиентов. Кажется логичным дать ему доступ ко всей карточке клиента.
Но для работы ему могут быть нужны только имя, история обращения, номер заказа и его статус. А финансовые данные или внутренние комментарии — совершенно ни к чему.
Поэтому в AI-системах важно разделять два вопроса: что агент может делать и какие данные он может видеть.
Агенту можно разрешить анализировать обращения и менять статус заявки, но при этом не давать доступ к определённым полям.
Причём ограничения должны работать до того, как данные попадут в контекст модели. Нельзя передать агенту всю информацию, а потом просто написать в промпте: «не используй эти данные».
Чем больше AI-агентов появляется в компании, тем важнее принцип минимального доступа: агент получает только те данные и полномочия, которые нужны ему для конкретной задачи.
Так и автоматизация масштабируется, и корпоративные данные не начинают гулять по системе без необходимости.