Baidu выкатил ERNIE 4.5 🇨🇳 И это не одна модель, а целое семейство из 10 разных вариантов мультимодальных моделей. Чего там интересного? 1️⃣ Мультимодальная MoE-архитектура. По-простому — научили модели работать с текстом, картинками и даже видео одновременно, да так, чтобы модальности не мешали, а помогали друг другу. Заявляют, что от этого даже чисто текстовые задачи стали решаться лучше. 2️⃣ Размер на любой вкус. Есть варианты от гиганта на 424B параметров (47B активных) до малютки на 0.3B. Есть где разгуляться и тем, у кого свой кластер, и тем, кто на ноутбуке код запускает. 3️⃣ SOTA-результаты. Ну тут классика. Говорят, что обогнали всех на свете в следовании инструкциям, визуальном понимании и прочих модных бенчмарках. Как обычно, доверяем, но проверяем. 4️⃣ Полный инструментарий. Отдали не только веса, но и тулкиты для дообучения (ERNIEKit) и быстрого деплоя (FastDeploy). Всё под лицензией Apache 2.0. Всё это добро работает на их собственном фреймворке PaddlePaddle. Так что, фанатам PyTorch придётся либо немного пострадать, либо проходить мимо. Интересный способ продвигать свою экосистему 🌚 Ссылочки: 👉🏻 Hugging Face 👉🏻 AI Studio 👉🏻 GitHub

В этом посте были ссылки, но мы их удалили по правилам Сетки

Baidu выкатил ERNIE 4.5 🇨🇳
И это не одна модель, а целое семейство из 10 разных вариантов мультимодальных моделей.
Чего там интересного?
1️⃣ Мультимодальная MoE-архитектура | Сетка — социальная сеть от hh.ru Baidu выкатил ERNIE 4.5 🇨🇳
И это не одна модель, а целое семейство из 10 разных вариантов мультимодальных моделей.
Чего там интересного?
1️⃣ Мультимодальная MoE-архитектура | Сетка — социальная сеть от hh.ru