⚡ DGX Spark и Station запускают LLM на рабочем столе

NVIDIA представила компактные AI-суперкомпьютеры DGX Spark и DGX Station для локального запуска больших моделей.

DGX Spark на базе архитектуры Grace Blackwell работает с моделями до 100 млрд параметров, а DGX Station с 775 ГБ когерентной памяти — до 1 трлн параметров. Системы поддерживают NVFP4 — формат, сжимающий модели на 70% без потери качества. Интеграция с llama.cpp даёт прирост производительности до 35%, ускоряя загрузку и вывод.

DGX Station покажет 250 тыс. токенов/сек при преподготовке LLM, а Spark — в 8 раз быстрее генерит видео, чем MacBook M4 Max. Обе поддерживают Nemotron 3, Llama 3.3, Qwen3 и другие модели.

#nvidia #dgx_spark #llm #ai_workstation #dgx_station #blackwell