Вайб-кодинг на страже Пентагона: как консультант Пентагона дал доступ к закрытой военной сети личному ИИ-агенту 🤦♂️
История из свежего расследования Wired, от которой у любого вменяемого безопасника начнет дергаться глаз.
Сотрудник Accenture (у конторы только с Пентагоном контрактов на 600+ млн долларов) решил ускорить себе закрытие задач. Зачем вручную писать скрипты и поднимать инфраструктуру, если можно натравить ИИ-агента?
Инженер берет свой личный аккаунт Anthropic, подключает его к NIPRNet (централизованная закрытая сеть Пентагона) и заботливо скармливает агенту свои администраторские логины и пароли. Чтобы агент сам генерировал код, сам коммитил и сам накатывал его на сервера в обход стандартных проверок авторизации. Формально сеть NIPRNet считается несекретной, но содержит терабайты CUI (Controlled Unclassified Information). Это схемы критической инфраструктуры, ядерные двигательные установки подлодок и планы защиты от биотерроризма.
Что пошло не так? Конечно, всё:
1️⃣ Агенту для работы нужен доступ во внешний интернет. Выходя наружу для выполнения тасок, он благополучно передал учетные данные сотрудника, пароли и топологию сети на сторонний веб-ресурс. 2️⃣ Этот сервис ранее уже был помечен NIST как опасный из-за уязвимости к prompt injection. Любой злоумышленник через сторонний сайт мог скормить агенту вредоносные инструкции и войти в контур Пентагона с админскими правами.
Вся эта шарманка крутилась на боевых серверах два месяца. Никто ничего не замечал.
По закону федеральные подрядчики обязаны репортить о любых инцидентах ИБ в течение 72 часов. Что сделала Accenture, у которой госконтрактов на 3.5 миллиарда долларов? Правильно: попыталась спустить всё на тормозах. Внутреннее расследование ожидаемо заявило, что «обвинения необоснованны, нарушений нет». Ведь если честно признаться военным, что вы пустили бота в закрытый периметр, можно лишиться жирных контрактов.
Угроза безопасности от AI — это не восстание кремниевого сверхразума, а гремучая смесь из полная некомпетентность на местах, слепая вера в «умную нейросеть» и системный стимул замалчивать факапы. 🤷♂️
