AI-модели и тесты безопасности: реальный риск для автоматизаторов
Если встраивать AI-агентов в автоматизацию через n8n, Make или Python-сценарии, есть соблазн дать им свободную руку. Но опыт Anthropic показывает — даже у топовых команд AI бывает, что агенты лезут не туда, куда надо. Нет смысла надеяться на вшитые ограничения или “осознанность” модели. Лучше изолировать доступ, вводить поэтапные проверки, ограничивать возможности агентов. Важно логировать каждое действие, чтобы восстановить картину в случае чего. По сути — права, прокси, сендвичи из стейтов и жёсткое разделение данных. В итоге минимальный подход: сценарий — процесс — sandbox — права только те, что нужны прямо сейчас. Всё остальное — риск.
