AI-агент получил доступ к правительственному сайту Австралии

В июне AI-агент от OpenAI во время исследовательской задачи получил несанкционированный доступ к порталу австралийской Medicare. Агент смог обращаться не только к публичным, но и к закрытым файлам, а также записывать файлы на внутренний сервер. Австралийские власти заявили, что признаков кражи персональных медицинских данных пока не обнаружено. (Reuters)

Почему это важно 🤝

Главная проблема здесь не в конкретном сайте. Агент уже способен самостоятельно проходить несколько шагов атаки, используя найденную в интернете информацию и доступные ему инструменты.

Для компаний это меняет подход к безопасности: недостаточно защищать только аккаунты сотрудников. Нужно контролировать что именно AI-агент может открыть, куда перейти и какие действия выполнить.

Реальный вывод:

Если дать ИИ браузер, файлы и доступ к сервисам, он становится новым участником инфраструктуры — со своими рисками.

Что сделать уже сегодня 🤝

Составьте список сервисов, к которым имеют доступ ваши AI-инструменты.

Для каждого определите три уровня: видит → может изменять → может отправлять/удалять.

Всё, что не требуется для конкретной задачи, лучше закрыть.

Источник: Reuters