Как жить, если злоумышленник может добраться до хоста с ии-агентом

Я не буду вам говорить, что ИИ в значительной мере ускорил и удешевил взлом (уже сказал, получается). • Хакер-Школьник с ИИ может напакостить значительно сильнее, имея дешевые современные технологии. • Подготовленный злоумышленник-эксперт или тем более серьезная группировка может размотать даже серьезно подготовленную инфрастуктуру (если честно - это даже без ИИ всегда было лишь вопросом времени).

Но эту тему мы еще обсудим когда-нибудь в будущем (Интересных кейсов только за этот год накопилось уже не мало)

НО сегодня о другом: вот у вас тут имеется организация, активно внедряющая ИИ-агенты в свою работу для экономии, автоматизации и ускорения работы, или просто престижа для. Агент стоящий на корпортаивной машине - разрешенный, легитимный, у него явно есть какие-то доступы (в 99% случаев скорее всего используется учетная запись владельца). Этот агент, пододно всем известному помощнику Джарвису - разгребает вашу почту, двигает таски в канбан-борде, собирает за вас документы, проверяет ТЗ, пишет код, возможно гоняет на соседние тачки за инфой или вгружает туда результаты своего труда.

И вот как быть, если злоумышленник попал на машину, где работает этот ваш агент? (Не важно, клод, курсор, кодекс или любой другой)

Агенту все равно, кто дает ему задачи: по просьбе злоумышленника он без вопросов выдаст все что знает об инфре, разнесет вредонос по сетке, и самое главное: сделает это максимально незаметно для мониторинга.

Чтобы такой дичи не случилось, важно чтобы интеграция агентов в корпорацию проходила не на уровне самодеятельности, а подконтрольно сверху, и чтобы как ИТ, ИБ и руководство, так и непосредственно сотрудник, запускающий агента - знали и применяли на практике следующие советы.

1️⃣ У агента должна быть своя УЗ, чтобы сделать его действия прозрачными = чтобы логи нормально собирались.

2️⃣️️️️️️Урежь права агента до минимума. Никакой админки, никакого root, доступ должен быть строго к тому, что нужно под текущую задачу. В противном случае агент - находка для шпиона

3️⃣ Агент должен жить в песочнице. в идеале отдельный пользователь или контейнер, без доступа к SSH-ключам и всему остальному диску. Не запускай его в папке Загрузки, не давай доступ ко всему диску.

4️⃣ Исходящий трафик по белому списку. Агент и тот, кто им управляет, не должны ходить куда угодно. Не только содержимое ноута, но и все содержимое доступной инфры и отдельно внешние выходы должны быть управляемы.

5️⃣ Опасные действия подтверждает человек. Удаление, отправка данных наружу, установка пакетов, платежи - нельзя слепо автоматизировать все - это прямой путь к скайнету с терминаторами к компрометации.

6️⃣ Логи действий агента собираются не на самом хосте. Что запускал, какие инструменты, какими токенами. Иначе первое, что сотрёт атакующий, это следы.

7️⃣ EDR агент становится жизненно необходим в средах, где активно используются агенты. Без него - хост с установленным агентом = неуправляемые привилегии для злоумышленника и полное отстутствие контроля.

Что делать,Если оно уже случилось - инцидент происходит прямо сейчас.

1️⃣ Изолируй хост, но не затирай его: сохрани логи и память агента. Если нет EDR - дергай ноут из сетевой розетки и гаси wi-fi и иди сдавайся киберкриминалистам.

2️⃣ Отзови и перевыпусти всё, до чего агент мог дотянуться. Считай скомпрометированным всё, что он мог прочитать. -> все УЗ на хосте, сертификаты, пароли, явки, имена.

3️⃣ Проверь инструкции и память агента на подмены.

4️⃣ Просмотри, что агент делал от твоего имени: коммиты, запросы, письма, установки.

5️⃣ Скажи своей СБ, ИБ, в SOC, что на хосте стоял агент. Его действия выглядят легитимно, искать придётся по контексту.

Помните расчёт про 40 минут реакции SOC? ИИ агенту с доступами этих 40 минут хватит - что скомпрометировать и/или уронить вообще всю инфру. Так что лучше заранее решить, к чему у него точно не должно быть доступа, чем гадать потом, что он успел вытворить.