🔓 K2 HORIZON ПОКАЗАЛ ВНУТРЕННОСТИ Обычно разработчики ИИ показывают готовый пирог. Здесь на стол выложили ещё рецепт, ингредиенты и фотографии из духовки. 🧠 РАЗБИРАЕМ ПО СУТИ • 🧠 В линейке сразу шесть моделей Institute of Foundation Models представил K2 Horizon: от компактной модели на 0,9 млрд параметров до гиганта на 375 млрд.

• 🏋️ Младшие версии метят выше своего веса Модели на 0,9, 3,7 и 7 млрд параметров показали сильные результаты в тестах на рассуждения, программирование и работу с инструментами.

• ⚡ Флагман включает не весь мозг сразу У 36B-A4B всего 36 млрд параметров, но для каждого токена работают около 4 млрд. Это MoE: как большой отдел, где задачу получает только нужная группа специалистов.

• 📱 Размер можно подобрать под устройство Маленькие модели рассчитаны на телефоны и AR-очки, крупные — на рабочие станции и дата-центры.

• 🔓 Лицензия разрешает коммерческое использование Линейка вышла под Apache 2.0: модели можно брать, менять и встраивать в продукты. 🔥 ЗАЧЕМ ЭТО НУЖНО? ▸ Открыли не только веса IFM также публикует код обучения, данные, гиперпараметры, логи экспериментов и инструкции по сбору данных. Не просто ключи от машины, а ещё схема двигателя и записи механика 🔧

▸ Обучение можно рассматривать по кадрам Промежуточные чекпоинты показывают модель на разных этапах. Исследователи смогут искать момент, когда появились отдельные навыки или, наоборот, проблемы 🔬

▸ MoE экономнее использует вычисления 36B-A4B активирует около 4 млрд параметров на токен и, по данным новости, почти догоняет плотную модель на 32 млрд. Весь офис не собирают ради одного письма ⚡

▸ Одна линейка закрывает разное железо Можно начать с небольшой версии на локальном устройстве, а затем перейти к более крупной. Но требования к каждому размеру всё равно придётся проверять на своей инфраструктуре 🖥️ 💼 КАК ПРИМЕНИТЬ НА ПРАКТИКЕ? ▸ Разработчик может собрать локальный прототип Версии на 0,9–7 млрд параметров подходят для экспериментов на компактных устройствах. Потенциальный сценарий — приложение, которое обрабатывает данные без постоянного обращения к облачному API 📱

▸ ML-команда сможет разбирать обучение модели Логи, настройки и чекпоинты можно сравнивать между собой и смотреть, какие решения дали результат. Это полезнее учебного примера, где все ошибки заранее аккуратно вытерли 🧪

▸ Компания может дообучить модель под свою задачу Для этого доступны веса, код и данные. Однако качество такой версии будет зависеть от собственных данных, настройки и проверки — волшебной кнопки в комплекте нет 🎯

▸ Продукт можно меньше привязывать к одному API Apache 2.0 и открытый стек дают возможность держать модель на своей инфраструктуре. Платой за независимость станут собственные расходы на железо и поддержку 🛡️ 🔹🔹🔹🔹🔹🔹 🏆 ЛУЧШИЕ ПРОМПТЫ В PROJECT POOL 🤖 ИИ АГЕНТЫ — собери своего 📈 ИИ-агенты. - просто и понятно #новости #news #нейросети #ии

В этом посте были ссылки, но мы их удалили по правилам Сетки