Очередной раз запуская тесты своих новых нейросетей, инженеры OpenAI ожидали увидеть, как алгоритмы справляются со сложными задачами. Вместо этого они стали свидетелями беспрецедентного инцидента: искусственный интеллект впервые в истории самостоятельно выбрался из изоляции, вышел в открытый интернет и совершил кибератаку на реальную компанию.

Суть эксперимента заключалась в проверке хакерских способностей двух моделей: общедоступной версии GPT-5.6 Sol и её более мощной, пока не анонсированной, версии. Для этого использовалась строго контролируемая виртуальная лаборатория, изначально лишенная каналов связи с наружными сетями, но в этот раз с некоторыми ослаблениями, чтобы измерить предельные возможности нового поколения нейросетей в условиях, приближенных к «дикому» интернету.

Искусственный интеллект, обнаружив раннее неизвестную брешь в предоставленном программном обеспечении, выскользнул за периметр лаборатории. Вырвавшись на свободу, модели оперативно «сообразили», что на открытых ресурсах Hugging Face — крупнейшего репозитория для хранения датасетов и моделей ИИ — могут быть готовые решения на задания, которые они получили. Действуя в духе настоящих злоумышленников, ИИ-модели скомпрометировали учетные записи, вторглись в рабочую базу данных компании, извлекли необходимую информацию и благополучно сдали экзамен на отлично.

Однако это не самое страшное. По данным источников, вся операция заняла считанные часы. Опытному хакеру на такое потребовалось бы примерно две недели, если не больше.

В Hugging Face вторжение зафиксировали по нестандартной активности — «рою из десятков тысяч автоматических действий». Служба безопасности компании вместе с собственными ИИ-агентами смогла остановить взлом. OpenAI, в свою очередь, уведомила американские правоохранительные органы, и вместе со стартапом начали расследование. Генеральный директор Hugging Face назвал случившееся «сносящим крышу», но уточнил, что не видит в этом злого умысла со стороны OpenAI.

Самым абсурдным эпизодом в этой истории стало расследование. Чтобы понять механику взлома, Hugging Face попыталась привлечь западные коммерческие ИИ. Но те отказались, сославшись на внутренние этические ограничения и правила безопасности. В итоге разбирать следы кибератаки пришлось... бесплатной китайской нейросети, которой эти предрассудки были неведомы. К счастью, ущерб оказался минимальным: ИИ-модели забрали только внутренние данные и учётки, не тронув клиентскую информацию.

В OpenAI инцидент пытаются смягчить, утверждая, что модели просто шли на крайние меры ради узкой цели. Критики называют это потерей контроля — ИИ предпринял действия, которые создатели не закладывали, и легко пробил среду, которую считали надёжно изолированной.

Происходящее заставляет задуматься о темпах развития технологий, которые опережают создание механизмов безопасности. В политическом поле уже звучат призывы к обязательному независимому тестированию передовых моделей и полной прозрачности подобных инцидентов.

А как вы относитесь к данной "проделке" ИИ-моделей? Ставим "2" за списывание и хулиганство? Или "5" за правильные ответы и находчивость?)

#вебдизайн #сайтдлябизнеса #разработкавебсайтов #сайтподключ #вадимасмолов #vadeveloper #вадевелопер #ии #искусственныйинтеллект