Я участник ИИ-гильдии @ai_engineers_guild и приглашаю вас туда в том числе.

Ее развивает друг школы – Артем Летюшев и активно вкладывается в развитие, организуя постоянный обмен опытом. Совсем недавно провели прямой эфир на тему: «Как провести AI-агента через enterprise security review»

Контент глубоко-технический, но практический

Короткий вывод, ради которого стоило собираться: SOC 2 уже недостаточно. Он остаётся nice to have, но перестал быть доказательством. Классический пакет – пентест, security questionnaire, DPA, subprocessor list, архитектурные диаграммы – собирали под статический софт. Про агента с доступом к CRM, почте и платежам он не говорит вообще ничего.

Что теперь спрашивают безопасники (из 20+ кастдевов с секьюрити-командами американских компаний):

– какие действия агент выполняет автономно, а какие только после подтверждения человеком – изолирован ли tool calling, ограничена ли частота вызовов – есть ли kill switch – выгружаются ли аудит-события в SIEM – можно ли восстановить, что именно делал автономный workflow за произвольный период

И главное изменение в логике: «если агент постоянно обновляет память, это каждый раз новая версия. Нельзя тестировать её раз в год». Проверка должна быть непрерывной.

Что еще? Разобрали ландшафт фреймворков. OWASP Top 10 для агентов, NIST AI (на него ложится примерно треть контролей), EU AI Act, AIUC с квартальной переаттестацией и ценником 50–70k$ за одного агента, ISO 27006. У всех одна и та же проблема: это своды правил, а не имплементация. Vanta-подобного перевода в контроли пока нет ни у кого, и в ближайший год, судя по всему, не будет.

Рекомендую к просмотру и приглашаю в гильдию

В этом посте были ссылки, но мы их удалили по правилам Сетки