AI, AGI, ИИ, LLM и много других терминов, которые последнее время сыпятся на нас - даже у специалистов начинают вызывать путаницу. И если раньше на форуме достаточно было спросить "Что лучше, Windows или Linux?", сейчас этот вопрос трансформировался в "А чем новая версия brandname тебе не AGI?"
NGFW AI, SOC AI, Pentest AI и много ещё чего — привели к тому, что даже с точки зрения маркетинга новый ИБ-продукт без приставки AI уже выглядит хуже конкурентов.
- У нас логи сами на дашборде появляются?
- Ну...скрипт подтягивает
- Но сам?
- Cron’ом
- Не забудьте добавить AI
- А ещё дашборды отрисовываются автоматически
- Тогда мы первые с Double AI
- 🤝
Это, конечно, слабая попытка пошутить, но думаю, кто-то из продуктовых команд сейчас всё же улыбнулся
Есть ли плюсы от повсеместного внедрения ИИ? Конечно есть и даже огромные. Но есть и минусы на которые не всегда любят обращать внимание.
Картинка выше для меня идеальная иллюстрация текущего состояния индустрии, один лежит и не понимает, что происходит, а двое вокруг кричат - AI! GPT! AGI! LLM! Чем-то напоминает сцену из Алисы в стране чудес. Все побежали за белым кроликом, но никто не спросил - куда он вообще бежит. ИИ тот самый кролик. И многие уже внутри «кроличьей норы», но не до конца понимают, где выход и зачем они туда попали.
Последние месяцы сильно изменился формат вопросов в ЛС. Если раньше спрашивали "Как работает Kerberos?" или хотя бы "Почему это уязвимость?", то сейчас получаешь вопросы в стиле "А ты через какой ИИ сдаешь лабы на HTB?", "Скинь промпт", "Как обойти ограничения, а то она только подсказывает, но не пишет эксплойт для лабы за меня?"
Я все больше вспоминаю как зачитывался статьями с Securelist, искал книги и пытался разобраться не как пентестить, а как вообще устроено то, что нужно проверять на защищенность. А иначе как ты собрался тестировать то, что не понимаешь как работает?
"Дай готовое", "сгенери эксплойт" и "объясни кратко" не проблема ИИ индустрии, а проблема тех, кто делает такие запросы и тех кто лепит бесконечные ярлыки AI везде где только можно. Упавшая база прода, потому что твой агент подсказал тебе ее дропнуть (а кто, чтобы обойти ограничения, писал, что делает все в тестовой лабе?) лишь малая из проблем.
Вспоминая того же кролика - Сейчас нужно бежать вместе с ИИ, чтобы просто оставаться на месте. А чтобы стать ценнее — придётся думать быстрее, чем он. Важно не получить флаг и готовый ответ, важно уметь понять и главное объяснить - почему он правильный. Ведь можно уметь пользоваться инструментом, но не понимать сам предмет области.
Отдельная боль — это безопасность (куда без нее, если мы в ИБ) В чат с ИИ летят конфиги с ключами от API, куски кода под тройным NDA, разные внутренние данные. Задумывается ли кто-то "а куда это идет дальше?"
Про CTF, в правилах которых уже прямо заявляют о том, что будут банить за использование ИИ вообще молчу.
Чем больше будет внедряться ИИ - тем больше будет цениться человек, но высококвалифицированный. Я не знаю каким будет настоящий AGI, но мне кажется, что полностью повторить "творчество" в том же пентесте, где "взлом" логики работы приложения может нанести гораздо больший ущерб, нежели находка очередной CVE unauth RCE, если и получится, то еще не скоро. Человек страшен своей хитростью и непредсказуемостью, ИИ для меня все же больше про алгоритмы, даже несмотря на успехи XBOW и Mythos.
Приставка AI не делает софт круче, а тебя умнее, до тех пор пока твой пентест агент или что-либо еще соображает быстрее, чем ты. Автоматизация этапов разведки или помощь в написании PoC не отменяет факта того, что в наше время ты должен развиваться еще быстрее, чем выходят новые модели. Если завтра выпустят новый XSUPERAI3000 который сходу сдаст OSCP и CRTO я все равно выберу того, кто вечера проводит за лабами - на его стороне будет "творческое" мышление. Но важно и понимать - в 21 веке выиграет тот специалист, кто помимо постоянной прокачки скиллов, сможет быстро освоить и применять в работе своего Bagley или Jarvis'a.
