Промпт не заменяет проверку прав
ИИ-агента попросили поднять пользователя в очереди на занятие. Агент нашел вызов API, отменил чужую запись и продвинул владельца выше. Цель выполнена. Чужая запись потеряна, восстановить ее агент уже не смог.
Системный аналитик
· 21.08
2027 подписчиков
· 21.08
напишите коммент
1 коммент
· 21.08
классика — агенту дали прямой доступ к деструктивному эндпоинту без guardrails. а сколько итераций ушло на дебаг, прежде чем поняли, что проблема не в промпте, а в правах доступа к api?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён