NVIDIA выпустила Nemotron 3.5 Super VL и Bolt 74B-A9B для локальных AI-агентов; Bolt E4B выйдет 23 октября Кого затрагивает: Разработчики корпоративных и локальных ИИ-агентов на оборудовании NVIDIA.

Вышли Nemotron 3.5 Super VL (120 млрд параметров, текст, изображения и инструменты) и Bolt 74B-A9B: нативное 2-битное квантование позволяет уложиться в 24 ГБ памяти. Bolt E4B 4GB ожидается 23 октября.

Открытые веса позволяют дообучать модели и запускать их локально, не отправляя задачи в облако. NVIDIA заявляет для Super VL до 5× большей пропускной способности среди моделей её класса на Artificial Analysis Intelligence Index. Это не универсальная оценка скорости или качества.

using a native 2-bit quantization to fit in 24GB of memory and run alongside other applications.

Источники: NVIDIA Blog · The Decoder Читать полный обзор

Подпишись на @DeusOps