Fable 5 от Anthropic просто напомнил.

10 июня Anthropic показала свои самые сильные модели в открытом доступе Fable 5 и Mythos 5, но проработали они всего пару дней. Вечером 12 июня правительство США прислало в компанию письмо, и к ночи обе модели погасли для всех пользователей планеты.

Аж с понедельник планировал до этой темы добраться и так мы оказались в субботе :-)

Формально ограничения касались иностранных граждан, но отрезать доступ по паспорту глобально невозможно, поэтому рубильник выключили целиком. Причиной назвали нацбезопасность, поскольку Fable якобы можно заставить искать уязвимости в коде. В Anthropic считают ситуацию недопониманием, ведь единственный показанный сценарий сводился к чтению кодовой базы и починке багов. Как раз ради таких задач подобные модели обычно и используют.

Многие сделали резонный вывод, что передовым ИИ мы не владеем, а лишь арендуем доступ, который могут забрать одним письмом. Ничего нового в такой ситуации нет, мы уже проходили подобное с опенсорсом. Технологии новые, все бежит и меняется, а история никого не учит. Я приветствую всех красноглазиков, вы снова были правы, свободы нет и не будет.

Помните открытый код преподносили как утопию с публичными исходниками, всеобщей проверкой и равным доступом. На деле уязвимость Heartbleed годами жила в алгоритмах шифрования всего интернета, потому что в открытый код мало кто заглядывал. К тому же GitHub с половиной мирового кода принадлежит Microsoft. Когда разработчик библиотек faker.js Марак Сквайерс в знак протеста сломал свой код, платформа просто заблокировала ему аккаунт и лишила доступа к собственной работе. Вся свобода заканчивается там, где у владельца платформы есть кнопка бана.

У нас в России с опенсорсом вообще отдельная история. В марте 2022 года популярный пакет node-ipc с миллионом загрузок в неделю получил от разработчика апдейт, который проверял IP-адреса пользователей. Если адрес оказывался российским или белорусским, скрипт удалял файлы и оставлял вместо них сердечко. Поскольку пакет был в зависимостях у множества проектов, пострадали даже те, кто про него никогда не слышал. Так открытый и равный код по геолокации решал, заслуживаешь ли ты сохранить свои данные.

Импортозамещение выглядит на этом фоне иронично. Компании уходили с Windows и Oracle на Linux и PostgreSQL ради независимости, но фундаментом нового стека оказался всё тот же опенсорс.

Ситуация с Fable 5 повторяет эту схему на более высоком уровне. В роли библиотеки выступает передовая модель, автора библиотеке заменяет правительство, а проверку IP маскируют под ограничения для иностранных граждан, под которые попадаем мы с вами.

Разработчикам продуктов стоит забыть про деление на открытые и закрытые инструменты. Гораздо полезнее понимать, у кого находится рубильник и что произойдет при его отключении. Дальше начинается привычная работа с рисками. Нужно добавлять слой абстракции над провайдером, чтобы продакшен не ложился при отказе одной из систем. Например, пользователей Fable автоматически перебросило на Opus 4.8, и подобный фолбэк стоит проектировать изначально. Критичные зависимости нужно брать под контроль, фиксировать версии, держать собственные зеркала и форки. Локальные модели обычно слабее облачных, но зато полностью управляются вами. Для конфиденциальных задач развернуть генератор на своём железе часто бывает отличным решением.

Любая открытость держится на чужом разрешении, которое могут отозвать в любой момент. Главный вопрос на старте проекта сводится к тому, кто контролирует кнопку отключения и переживет ли ваш продукт её нажатие. На фоне этого лицензии и бенчмарки отходят на второй план.

📨 Что думаете, следите за новостями или ИИ шум окончательно отбил все желание?

#it #навыкАналитика #ai #ии #красноглазики

Ваш Аналитик на Балтике 🌊