🔒 Антропогенные ограничения распространяются на весь мир, но действительно ли безопасность является истинной причиной?
Компания Anthropic объявила об ограничении выпуска своей новейшей модели Mythos, заявив, что она слишком эффективна в обнаружении уязвимостей в программной безопасности.
Вместо публичного релиза компания предоставит доступ к Mythos через свою программу Glasswing избранным крупным предприятиям, управляющим критически важной инфраструктурой, включая Amazon Web Services и JPMorgan Chase.
По имеющимся данным, OpenAI рассматривает возможность аналогичного ограниченного выпуска своего следующего инструмента кибербезопасности. Однако критики утверждают, что истинная мотивация может заключаться не столько в безопасности, сколько в защите бизнес-моделей передовых лабораторий от дистилляции — метода, используемого конкурентами для обучения более дешевых моделей за счет использования результатов работы передовых моделей.
Ключевые выводы:
* Ограниченный доступ через Glasswing — Mythos будет доступен только избранным крупным предприятиям, работающим с критически важной инфраструктурой, а не широкой публике. * Защита от дистилляции— критики утверждают, что ограниченный выпуск на самом деле направлен на предотвращение использования конкурентами Mythos для обучения более дешевых моделей конкурентов. * Корпоративный механизм оптимизации — ограниченные релизы создают конвейер для высокодоходных корпоративных контрактов, не допуская при этом участия небольших лабораторий. * Заявления о кибербезопасности поставлены под сомнение— стартап Aisle, занимающийся кибербезопасностью на основе ИИ, утверждает, что ему удалось воспроизвести большую часть возможностей Mythos, используя более компактные модели с открытым исходным кодом. * Сообщается, что альянс против дистилляции — Anthropic, Google и OpenAI — сотрудничают в выявлении и блокировании попыток китайских компаний скопировать их модели
Более широкий взгляд:стратегия выпуска Mythos от Anthropic показывает, куда движется передовой ИИ, и это не путь к открытости. Защищая свою наиболее эффективную модель корпоративными соглашениями, Anthropic получает сразу две вещи: убедительное обоснование безопасности и защиту от упрощения.
Вопрос кибербезопасности вполне реален — эти модели действительно находят уязвимости, — но бизнес-логику трудно игнорировать. Если самые мощные модели доступны только компаниям из списка Fortune 500, то передовые лаборатории создают двухуровневую экономику ИИ, где более мелкие конкуренты навсегда оказываются на втором месте.
Вопрос в том, примут ли регулирующие органы и сообщество разработчиков открытого программного обеспечения такую формулировку, или же аргумент о безопасности станет удобным прикрытием для консолидации рынка.
