Не так я планировал продолжить тему ИИ…

Но все же отойду от темы гос. регулирования (я не забыл, готовлю интересный материал) и разберу совсем свежую историю, которая сейчас активно обсуждается

➡️ Речь про Claude Mythos Preview от Anthropic

Последние пару дней вижу огромное количество постов о том, что данная модель способна кардинально изменить мир ИБ. Решил разобраться и поразмышлять сам.

Если коротко – модель позиционируется как одна из самых мощных на сегодня. Самое интересное – по мере обучения она, как говорят, «непреднамеренно» приобрела выдающиеся способности в поиске и эксплуатации уязвимостей.

И речь не про банальные баги…

Anthropic заявляет, что она смогла найти тысячи уязвимостей в каждой из основных операционных систем и веб-браузеров. Из наиболее звучных кейсов по нахождению уязвимостей: ➡️ уязвимость в OpenBSD 27-летней давности (ОС имеет репутацию одной из самых защищенных в мире) ➡️ уязвимость 16-летней давности в FFmpeg ➡️ уязвимость ядра Linux, выявленная путем комбинирования нескольких уязвимостей и позволяющая получить полный контроль над системой

Как кажется на первый взгляд цели Anthropic благородные – не выпускать модель в мир, потому что это может привести к серьезным последствиям. А также запустить проект Glasswing – консорциум, в который войдут такие гиганты, как Amazon, Apple, Cisco, Google, Microsoft, NVIDIA и др. для использования Claude Mythos Preview с целью выявления и устранения уязвимостей собственной инфраструктуры

➡️ Но почему благие намерения Anthropic не обязательно хорошая новость?

Для крупных компаний появление такой модели – шанс усилить защиту. Для индустрии – огромный шаг вперёд

Но есть нюанс...

В анонсах данной модели и проекта Glasswing прямо говорится о ведущихся переговорах о наступательных и оборонных возможностях Claude Mythos Preview

➡️ Блеф? Не думаю…

Если честно, происходящее – это не «вау-революция», а скорее закономерный этап развития. К примеру, ИИ-слоп уже стал мейнстримом в BugBounty. Еще и настолько массовым, что многие компании закрывают приёмы отчетов из за низкого качества. Но всё же считаю, что происходящее сейчас – есть сама неотвратимость ИБ, где защита инфраструктуры и данных будет борьбой между AI red team и AI blue team. И человек в этой схеме уже не центр процесса, а скорее наблюдатель или оператор.

➡️ Вывод

И главная проблема в этом всём – время, а точнее его отсутствие.

➡️ Есть ли время всё еще думать, что ИБ не для вас и вас это не коснётся? Нет, как я рассказывал в видео выше – атаки перестают быть целевыми

➡️ Есть ли время на закрытие всего «руками»? Нет, человек уже давно проиграл в скорости ИИ

➡️ Есть ли время надеяться, что подобные модели не выпустят на волю? Нет, к этому пора готовиться уже сейчас...

Реальность остаётся довольно простой:

либо ты адаптируешься к новой парадигме, либо становишься её жертвой

«Adapt or die» - как сказал Брэд Питт в моём любимом фильме «Человек, который изменил всё» Контекст там был чуть другой, но я думаю смысл вам понятен)