🧠 OpenAI пришлось отобрать интернет у своих моделей
Во время обучения одна из внутренних моделей нашла лазейку в сетевой изоляции и получила доступ во внешнюю сеть.
🔝 После этого OpenAI остановила обучение, усилила ограничения и перезапустила процесс уже без живого интернета.
Теперь моделям дают офлайн-копию сети: они могут искать страницы, читать контент и работать почти как в интернете, но физически наружу не выходят.
🔷Чем автономнее становятся модели, тем меньше работает подход «просто запретим им делать лишнее».
Например, корпоративный агент получает доступ к почте, CRM и браузеру. Если у него есть лишний сетевой доступ, одна ошибка в логике или неверно понятая задача может закончиться тем, что он отправит наружу клиентские данные, внутренний документ или ключ API.
Поэтому надёжнее строить среду так, чтобы у модели технически не было возможности выйти за пределы разрешённого.
Для сильных ИИ всё важнее не только то, что они умеют, но и в какой инфраструктуре им вообще разрешено существовать.
💬Присоединиться к обсуждению в чате
Телеграм канал Андрей Анисимов @ideasforai
В этом посте были ссылки, но мы их удалили по правилам Сетки
