Яндекс выложил в опенсорс новую языковую модель

Яндекс открыл Alice AI Foundation LLM. Это базовая языковая модель на 80 млрд параметров, при работе активны около 3 млрд. Модель обучили с нуля на 18 трлн токенов, без использования чужих опенсорс моделей. Она доступна под лицензией Apache 2.0, то есть её можно легально использовать и дообучать в коммерческих и исследовательских проектах.

Эту версию рассматривают как фундамент для будущей рассуждающей модели и агентных возможностей Алисы AI. В перспективе ассистент должен не только отвечать на вопросы, но и выполнять цепочки действий по поручению пользователя.

Веса модели, техрепорт и два русскоязычных бенчмарка WikiWebFacts и HardMultiQA уже опубликованы на Hugging Face и Habr. Можно смотреть реальные метрики, сравнивать с другими открытыми моделями и пробовать свои сценарии поверх Alice AI Foundation.

Яндекс выложил в опенсорс новую языковую модель | Сетка — социальная сеть от hh.ru