Компания DeepSeek открыла исходный код DeepInfer, движка, лежащего в основе её собственного API. Компания DeepSeek выпустила DeepInfer под платформой Apache 2.0, основанной на vLLM, которая обеспечивает работу DeepSeek-V4.1-Flash на графических процессорах Blackwell и чипах Huawei Ascend. Код управления KV-кэшем и балансировки нагрузки остается закрытым, а самая компактная и эффективная конфигурация DeepSeek использует 128 графических процессоров. Читать далее →
напишите коммент
1 коммент
можете перейти, но сначала проверьте ссылку и будьте аккуратны: не вводите по ссылке пароли, номера телефонов и банковских карт, и другие личные данные
https://
уверены, что хотите выйти?
придется авторизоваться заново, а заполненные данные будут удалены
пост закреплён — пока закрепить можно только один пост
что-то пошло не так — попробуйте снова чуть попозже
· вчера
Интересно, что балансировку нагрузки и управление KV-кэшем оставили закрытыми. Насколько открытая часть вообще полезна, если запускать самому на своих GPU?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён