⚔️ CLAUDE НАШЁЛ ДЫРУ У OPENAI Иногда для атаки на ИИ-гиганта нужен не суперкомпьютер, а картинка HEIC и уязвимая библиотека. Исследователи заявили, что Claude Opus 5 помог добраться до внутренних систем OpenAI. 🧠 О ЧЁМ РЕЧЬ? • 🧠 Исследователи атаковали OpenAI Команда из трёх специалистов Hacktron AI использовала Claude Opus 5, чтобы найти путь во внутренние системы OpenAI.

• 🖼️ Входом стала обычная картинка На официальный форум OpenAI загрузили изображение в формате HEIC. Форум конвертировал его в JPEG через уязвимую опенсорсную библиотеку.

• 🕳️ Уязвимость открыла дальнейший путь Через дыру исследователи получили доступ к внутренним аккаунтам сотрудников OpenAI и корпоративному коду на GitHub.

• ⚙️ Новая модель справилась быстрее старой Предыдущая версия Claude Opus 4.8 не смогла написать рабочий эксплойт. После выхода Opus 5 задача, по описанию исследователей, заняла пару часов.

• 💵 OpenAI выплатила $6500 Награда прошла по программе bug bounty. Сумма выглядит скромно на фоне масштаба компании, но именно так OpenAI закрыла историю официально. 🔥 ПОЧЕМУ ЭТО ВАЖНО? ▸ ИИ ускоряет поиск слабых мест Раньше специалисту пришлось бы вручную разбирать цепочку от загрузки файла до доступа к аккаунтам. Теперь модель может помочь собрать рабочий эксплойт быстрее 🧩

▸ Атака началась не с суперсекретного сервера Проблема возникла на форуме, где файл просто преобразовывался из одного формата в другой. Самая скучная часть инфраструктуры снова оказалась самой интересной для атакующих 🛠️

▸ Сильная модель меняет баланс Claude Opus 4.8 не справился, а Opus 5 смог решить задачу. Похоже, рост возможностей моделей касается не только программирования, но и кибербезопасности ⚔️

▸ Защищаться теперь нужно быстрее Если модель помогает находить уязвимость за часы, у команд безопасности остаётся меньше времени на реакцию. Старый ритм «проверим когда-нибудь» становится опаснее ⏱️

▸ Конкуренция вышла за пределы бенчмарков Claude не просто сравнивают с ChatGPT по тестам и красивым демо. В этой истории одна модель помогла исследователям атаковать инфраструктуру компании, создавшей другую модель 🤖 💼 ЧЕМ ЭТО ОБЕРНЁТСЯ? ▸ Проверка загрузки файлов станет жёстче Потенциальный сценарий: сервисы начнут внимательнее изолировать конвертацию изображений и другие операции с файлами. Чем меньше такой код связан с внутренними аккаунтами, тем короче цепочка атаки 🔒

▸ Bug bounty может стать дороже Если подобные случаи будут повторяться, компаниям, вероятно, придётся пересмотреть награды за доступ к корпоративным аккаунтам и коду. Иначе исследователи будут сравнивать риск с выплатой ещё внимательнее 💰

▸ ИИ начнут использовать против ИИ Потенциальный сценарий: защитники применяют модели для поиска дыр, а атакующие — для написания эксплойтов. Получится гонка, где обе стороны нанимают одного и того же цифрового стажёра 🧠

▸ Нужна проверка человеком Даже сильная модель не заменяет безопасника: она может ошибиться, неверно понять окружение или предложить опасное действие. Финальные шаги должны контролировать специалисты 👀

▸ Главный урок — не в названии модели История показывает, что уязвимость могла скрываться в обычной цепочке обработки файла. Если так пойдёт, компаниям придётся проверять не только ИИ-модели, но и весь скучный код вокруг них 🧱 🔹🔹🔹🔹🔹🔹 🏆 ЛУЧШИЕ ПРОМПТЫ В PROJECT POOL 🤖 ИИ АГЕНТЫ — собери своего 📈 ИИ-агенты. - просто и понятно #новости #news #нейросети #ии

В этом посте были ссылки, но мы их удалили по правилам Сетки