ИИ-помощник сам поставил вирус по README
Хакерам больше не нужен эксплойт: достаточно README с инструкцией, которой доверяет ИИ-помощник. Вот как это выглядит на практике.
Случай из практики. Владелец небольшой производственной компании попросил программиста-подрядчика «разобраться с готовым открытым проектом» — для скорости тот подключил ИИ-помощника. Помощник прочитал README и добросовестно выполнил всё, что там написано. Среди шагов установки была команда, которая молча открывала злоумышленнику удалённый доступ к компьютеру.
Схема не нова: раньше такие инструкции подсовывали живым людям, теперь — программным помощникам. Люди хотя бы иногда читают команды глазами. Помощник же исполняет написанное буквально и быстро, а доверия у него к тексту проекта — как к инструкции от начальства.
Чем это грозит бизнесу
Компьютер подрядчика был подключён к рабочим папкам. Через него мог утечь прайс, база клиентов, договоры. Неделя простоя на разбирательства и смену всех паролей обошлась бы фирме в сотни тысяч рублей. Хорошо, что заметили на второй день.
Что я сделал
1. Отделил рабочее место подрядчика от основной сети — доступ только к тому, что нужно для задачи.
2. Запретил помощнику выполнять команды без подтверждения человеком: каждое действие в терминале теперь виднo и требует согласия.
3. Закрыл все доступы, к которым мог дотянуться вредоносный код, и сменил пароли.
4. Настроил уведомление руководителю в мессенджер: любой новый вход или удалённое подключение — сразу сообщением.
Было: помощник работал на полном доверии и с широкими правами. Стало: он только предлагает, решает человек, а чужой код не дотягивается до рабочих данных. Всё это стоило в разы дешевле, чем одна неделя остановки.
Вывод: ИИ-помощник — это быстрый, но слишком доверчивый стажёр. Права ему стоит выдавать так же осторожно, как новому сотруднику. А вы проверяете, что именно делает ваш помощник в терминале?
