Запуск тяжелых моделей для работы с кодом локально на MacBook

Представлен движок ds4, который позволяет запускать мощную модель DeepSeek V4 Flash с огромным количеством параметров прямо на MacBook. Благодаря технологиям сжатия и оптимизации памяти, пользователи получают окно контекста в 1 миллион токенов, что дает возможность загружать в модель целые кодовые базы целиком.

Это исключает затраты на облачные API и обеспечивает высокую скорость работы, позволяя использовать продвинутые функции написания и анализа кода без передачи данных на сторонние серверы.

Ссылка: https://github.com/antirez/ds4 @AIandproducts