Для чего нужен ИИ в кибербезопасности? Взгляд эксперта MON
Сергей Терешин, пресейл-инженер по безопасности веб-приложений в MONT, принял участие в дискуссии редакции CISOCLUB о роли ИИ в ИБ. Делимся его ключевыми тезисами.
1️⃣ Как ИИ изменил профиль атак на компании?
ИИ всё чаще оказывается не только инструментом атакующих, но и объектом атак. Уже зафиксированы инциденты, связанные с уязвимостями и компрометацией ИИ-систем — от атак на инфраструктуру DeepSeek до утечек данных из западных LLM-платформ. Отдельные риски связаны с неконтролируемым применением ИИ внутри самих компаний.
2️⃣ Кто проигрывает атакующим с ИИ?
Традиционно первыми проигрывают те, у кого ИБ — формальность. Следом — специалисты, которые не рассматривают ИИ как угрозу и без ограничений разрешают использование ИИ-систем внутри компании. В среде AppSec/DevSecOps даже родилась шутка: скоро работа сведется к тому, чтобы отследить, «таскает» разработчик код из ИИ или нет.
3️⃣ Что работает против ИИ-атак?
Решения, развиваемые внутри отечественного рынка, всё чаще по качеству сопоставимы или выше в сравнении с зарубежными аналогами. Они обучаются на релевантных данных и отражают реальные условия эксплуатации.
4️⃣ Как безопасно внедрять ИИ в защиту?
Во-первых, LLM должна быть жестко ограничена корпоративным цифровым контуром. Во-вторых, желательно, чтобы модель разрабатывалась внутри самой компании. Допустим и сторонним разработчиком, но он должен быть российским.
В-третьих, важно соблюдать стандарты внедрения ИИ, которые уже существуют. Это, например, рекомендации Сбера и Яндекса, а также известный всем OWASP TOP 10 LLM.
5️⃣ Как измерить пользу от ИИ?
Показательными будут метрики количества инцидентов в сочетании с интегральной оценкой уровня зрелости ИБ компании.
6️⃣ Что ждет рынок ИБ в ближайшие два года?
Теперь ИБ-специалистам нужно контролировать, как в компании применяют ИИ, и оценивать эти риски. В части процессов ИИ уже неплохо автоматизирует «бумажную безопасность» — регламенты и политики.
Я рекомендую включить ИИ в модель угроз и держать его в фокусе внимания. Ожидаю рост спроса на специалистов по безопасности разработки ИИ-решений.
