AI для поиска уязвимостей становится общедоступным

Китайская Z.ai представила новую модель GLM-5.3, ориентированную прежде всего на поиск уязвимостей. По данным компании, в тесте CyberGym модель набрала 84,5% против 83,8% у Anthropic Mythos 5. Правда, с эксплуатацией найденных уязвимостей GLM-5.3 пока справляется заметно хуже: 54,4% в ExploitBench против 78% у Mythos 5. (Reuters) Но есть цифра интереснее результатов бенчмарков. Z.ai утверждает, что с помощью своих моделей уже обнаружила 2 436 ранее не исправленных уязвимостей в open-source-проектах. Более тысячи из них имеют уровень критичности Critical или High. (Axios) И вот здесь становится интересно. Хотя я бы использовал старое русское слово «стрёмно». В интернете давно обсуждают AI в ИБ как инструмент специалиста: он помогает написать правило, разобрать лог, проанализировать код или автоматизировать пентест. Параллельно формируется другая реальность: AI становится инструментом массового взлома. И это не платный сборник эксплойтов из даркнета, сложный в использовании, а простой разговорный интерфейс чат-бота, понятный человеку без глубокой технической подготовки. В случае с GLM-5.3 Z.ai решила на две недели отложить публикацию весов и ограничить доступ к наиболее чувствительным возможностям модели. Но направление движения уже вполне понятно. (Reuters) Что теперь делать CISO? На мой взгляд, ничего революционного. Не нужно паниковать, бегать по потолку и срочно покупать очередную «AI-powered cybersecurity super platform». AI не изобрёл новый принцип атаки. Он просто существенно снизил стоимость уже существующих атак. Первое следствие: управление уязвимостями становится ещё важнее. В разы. Особенно на внешнем периметре. То, что раньше могло годами оставаться в интернете незамеченным, теперь всё проще обнаружить автоматически. Причём сравнительно безобидная уязвимость может стать первым звеном цепочки, ведущей к серьёзной компрометации. Поэтому сейчас я бы сканировал внешний контур несколько параноидальнее, чем ещё пару лет назад. Второе следствие: нужно сокращать поверхность атаки. Всё, что не обязано смотреть в интернет, не должно смотреть в интернет. Правило старое до неприличия — просто цена его нарушения становится выше. Раньше для эксплуатации какого-нибудь забытого сервиса требовался хотя бы относительно квалифицированный человек. Нужно было найти сервис, определить его версию, разобраться в коде, а затем найти или адаптировать эксплойт. Теперь всё большую часть этой работы можно поручить AI-агенту. И это, пожалуй, главное изменение. AI не обязательно сделает хорошего хакера намного лучше. Зато он способен сделать скрипт-кидди значительно опаснее. Поэтому меры защиты остаются скучными и хорошо знакомыми: устанавливать патчи, сокращать внешний периметр, убирать ненужные сервисы, контролировать зависимости, регулярно сканировать доступные извне системы и быстрее устранять найденные уязвимости. Если свести практические выводы к нескольким пунктам, я бы добавил ещё три. Во-первых, нужно лучше знать собственную инфраструктуру. Полный и постоянно обновляемый реестр внешних активов становится обязательным: AI быстрее всего найдёт именно забытый тестовый стенд, старый домен или сервис без владельца. Во-вторых, нужен заранее подготовленный сценарий на случай, когда уязвимость уже обнаружена, а патча ещё нет. Ограничить доступ, отключить уязвимую функцию, установить временное правило на WAF, изолировать систему и усилить мониторинг должно быть возможно за часы, а не после нескольких недель согласований. Наконец, стоит исходить из того, что какую-нибудь точку входа AI всё-таки найдёт. Поэтому сегментация, минимальные привилегии и защита административного доступа нужны не только для предотвращения атаки, но и для ограничения её последствий. В итоге одной из главных метрик для CISO становится не количество найденных уязвимостей, а время, в течение которого уязвимая система остаётся доступной атакующему. Революция произошла в инструментарии атакующих. А защищаться от неё пока приходится всё теми же скучными способами. И, возможно, это хорошая новость.

AI для поиска уязвимостей становится общедоступным | Сетка — социальная сеть от hh.ru