NVIDIA Nemotron 3.5 Lightning: высокая скорость работы без потери качества

Новая открытая модель Nemotron 3.5 Lightning на 30 миллиардов параметров работает в 4 раза быстрее аналогов того же размера. Благодаря архитектуре Mixture-of-Experts, система эффективно распределяет нагрузку, что позволяет использовать ее даже на одиночных видеокартах.

Модель поддерживает огромное окно контекста в 1 миллион токенов, что делает ее подходящей для длительных рабочих сессий ИИ-агентов в сфере кодинга или юриспруденции.

Ссылка: https://x.com/NVIDIAAI/status/2087162151995629926 @AIandproducts