Мне кажется, многие компании сейчас повторяют ошибку эпохи Shadow IT.

Сначала бизнес находит удобный инструмент. Затем служба безопасности обнаруживает, что он используется без согласования. После этого появляется запрет, но не появляется нормальная корпоративная альтернатива.

С GenAI последствия серьёзнее.

Сотрудники передают моделям код, документы, переписку и аналитику. Разработчики используют API и локальные модели. Отдельные команды создают агентов, подключают их к почте, репозиториям и внутренним базам.

Формально компания может запретить несколько публичных сервисов. Фактически использование ИИ продолжится через личные аккаунты, мобильные устройства, расширения и локальные инструменты.

Политика становится строже, а видимость — хуже.

Именно поэтому я не считаю Shadow AI прежде всего проблемой сотрудников.

Это проблема корпоративной архитектуры и управления. Люди уже увидели пользу ИИ, но организация не предоставила им безопасного, удобного и достаточно быстрого способа эту пользу получить.

Основной риск при этом шире утечки данных.

Компания не знает:

— какая модель участвует в процессе; — что происходит с переданными данными; — используются ли результаты без проверки; — кто отвечает за ошибочное решение; — какие полномочия получил AI-агент; — можно ли восстановить цепочку его действий.

По данным IBM, 20% исследованных организаций сообщили об инцидентах, связанных с Shadow AI, а высокий уровень теневого использования увеличивал среднюю стоимость утечки на 670 тысяч долларов. (www-api.ibm.com)

Но я бы не использовал эту статистику как аргумент в пользу тотального запрета.

Наоборот, она показывает цену отсутствия управления.

Зрелая функция ИБ должна предложить approved AI stack:

— корпоративные сервисы и аккаунты; — правила для разных категорий данных; — DLP и журналирование; — безопасную среду для AI-разработки; — реестр моделей и агентов; — минимальные полномочия; — человеческое подтверждение критических действий; — быстрый процесс рассмотрения новых сценариев.

Важно и то, как измеряется результат. Количество заблокированных AI-сервисов мало говорит о безопасности.

Гораздо полезнее смотреть на долю использования через корпоративные аккаунты, скорость согласования новых сценариев, количество неизвестных агентов и число процессов, переведённых из Shadow AI в управляемую среду.

Моя позиция:

Shadow AI — это не доказательство того, что сотрудники не соблюдают правила. Это доказательство того, что бизнес-потребность возникла раньше корпоративного решения.

Роль CISO — не спорить с этой потребностью, а превратить её в управляемый процесс.

Как вы считаете: должна ли ИБ иметь право запрещать использование AI-инструмента, если компания не предоставила сотрудникам рабочую альтернативу?