🚀 NVIDIA и Mistral AI представили новые модели ИИ
NVIDIA и французский стартап Mistral AI объединились для запуска новой серии открытых ИИ-моделей Mistral 3.
Семейство включает масштабную модель Mistral Large 3 с 41 млрд активных и 675 млрд общих параметров, использующую архитектуру MoE (Mixture of Experts). Это позволяет задействовать только нужные части сети, повышая эффективность и снижая затраты. Модель оптимизирована для платформ NVIDIA GB200 NVL72 и поддерживает контекст до 256K токенов. На GB200 достигается 10-кратное ускорение по сравнению с H200.
Также представлены компактные модели Ministral 3 — для запуска на устройствах с GPU, включая RTX и Jetson. Они уже доступны через Llama.cpp и Ollama, а интеграция с NVIDIA NIM микросервисами запланирована на ближайшее время.
