AI-агенту не обязательно видеть всё

Представьте, что AI-агенту разрешили обрабатывать заявки клиентов. Кажется логичным дать ему доступ ко всей карточке клиента.

Но для работы ему могут быть нужны только имя, история обращения, номер заказа и его статус. А финансовые данные или внутренние комментарии — совершенно ни к чему.

Поэтому в AI-системах важно разделять два вопроса: что агент может делать и какие данные он может видеть.

Агенту можно разрешить анализировать обращения и менять статус заявки, но при этом не давать доступ к определённым полям.

Причём ограничения должны работать до того, как данные попадут в контекст модели. Нельзя передать агенту всю информацию, а потом просто написать в промпте: «не используй эти данные».

Чем больше AI-агентов появляется в компании, тем важнее принцип минимального доступа: агент получает только те данные и полномочия, которые нужны ему для конкретной задачи.

Так и автоматизация масштабируется, и корпоративные данные не начинают гулять по системе без необходимости.

AI-агенту не обязательно видеть всё | Сетка — социальная сеть от hh.ru