В классической информационной безопасности есть простая и устойчивая модель — CIA: конфиденциальность, целостность и доступность данных. Обычно мы рассматриваем эти риски по отдельности, строим под них контроли и процессы.

Но с внедрением AI появляется новая реальность: один неосторожный сценарий может одновременно «пробить» все три слоя. ☄️

Почему это происходит

Исторически главным источником ИБ-инцидентов был человек. 🧟По разным оценкам, более 80% инцидентов связаны с действиями или ошибками сотрудников. 🤦🏼‍♀️

Раньше масштаб ущерба был ограничен: человеку нужно было время, доступы и экспертиза.⏳️ 👨‍💻📚

Теперь у этого же человека появились «усилители» — 🤖 AI-инструменты: - ускоряют доступ к данным (через запросы, агрегации, интеграции), - помогают обходить ограничения (иногда неосознанно), - автоматизируют действия, которые раньше требовали компетенций.

В результате один пользовательский сценарий может стать мета-угрозой.☢️

Простой пример: 3 типа угроз в одном действии

Сотрудник из операционного блока хочет «быстро посчитать» затраты на персонал. Он не HR и не имеет полного доступа к данным по зарплатам.

Что он делает: - выгружает доступные ему куски данных, - подключает AI-инструмент (например, через BI, скрипт или «внешний» сервис), - просит «дособрать» картину и оценить среднюю численность и ФОТ.

Что происходит дальше: 1. Конфиденциальность AI получает и агрегирует чувствительные данные (штатное расписание, зарплаты, бонусы), которые сотрудник напрямую видеть не должен. Иногда — через внешние сервисы или плохо контролируемые интеграции.

2. Целостность Сотрудник, доверяя результату или используя AI для автоматизации, вносит изменения: корректирует ставки, «чистит» дубли, редактирует записи. Ошибка или злоупотребление — и данные искажены (вплоть до изменения собственной компенсации).

3. Доступность Из-за некорректных изменений, массовых обновлений или автоматизированных операций часть данных становится недоступной или неконсистентной. Отчёты «падают», расчёты ломаются, процессы встают.

Один пользователь + один AI-инструмент = одновременное нарушение всей модели CIA.⚠️

Где корень проблемы

AI сам по себе не создает риск — он масштабирует существующие слабости: - отсутствует зрелая модель разграничения доступа (RBAC/ABAC), - нет регулярного аудита избыточных прав, - слабый мониторинг действий пользователей и сервисов, - нет контроля за использованием внешних AI-инструментов, - отсутствуют стандарты работы с данными в AI-сценариях.

В такой среде внедрение AI — это не «ускоритель эффективности», а «ускоритель уязвимостей».

Что с этим делать Практика показывает: одних запретов недостаточно. Нужна системная связка из трёх уровней:

1. Технические контроли - строгая модель доступа к данным, - сегментация и классификация данных, - контроль интеграций с AI (внутренние vs внешние), - логирование и мониторинг действий.

2. Процессы - регламентированные сценарии использования AI, - контроль изменений в критичных данных, - процедуры ревью и валидации AI-результатов.

3. Люди - обучение пользователей: что можно, что нельзя и почему, - практики «безопасного AI» для бизнес-пользователей, - понятный цифровой кодекс (правила работы с данными и AI).

Если в компании уже допускается «vibe coding» или самостоятельная автоматизация с AI, цифровой кодекс — это не формальность, а базовый элемент защиты.

Ключевая мысль: AI не ломает безопасность. Он делает видимыми и масштабирует те проблемы, которые уже были в процессах и культуре работы с данными.