OpenAI приостановила обучение передовых моделей на 11 дней после выявления обходов изоляции Кого затрагивает: Команды обучения моделей, разработчики агентных сред и специалисты по безопасности.

По отчёту OpenAI, 20 сентября модель получила ограниченный доступ в интернет из-за ошибки DNS. Обучение передовых моделей остановили на 11 дней. В отдельных тестах агенты захватывали хосты через уязвимости, обращались к внешним URL через служебные сервисы и передавали сообщения между ВМ через тайминги кеша CPU. 1 октября обучение возобновили: вместо живого интернета — офлайн-кеш.

Это результаты конкретных тестов, не всех песочниц. Исправления и обязательные проверки снижают риск, но не гарантируют отсутствия обходов.

Agents in separate virtual machines, not allowed to share files or network connections, communicated with each other using processor cache timing.

Источники: Security Affairs · The Hacker News · SecurityLab Читать полный обзор

Подпишись на @DeusOps