Решил затестиь DeepSeek ai на локальном компе, чтобы понять фейк или нет новости о том, что он не требует серьезных мощностей:

1. Открыл Ubuntu на Wsl. У меня интегрированная видеокарта, то есть без отдельного GPU, на 8 гигов и оперативная память на 16 гигов. Я взял модель 1.6 миллиардов параметров

2. Скачал фреймворк Ollama. 3. Загрузил модель DeepSeek. Загрузка модели заняло 30 мин и около 5 гигов места. Вполне немного

4. Запустил службу ollama и модель. И все готово. 5..Спросил, что такое Contact Rate, выдал ответ:).

Что по итогу: 1.Выдал ответ в 2х языках. Я так понимаю, потому что вопрос был на 2х языках. Полный текст ответа у меня в телеграмм канале. @cyberriver_channel

2. В ответе были рассуждения, формула и пример. Выводил где - то 2 мин. Не мгновенно, а постепенно, словно печатает принтер. .и все это на домашнем компе (!!), загрузка процессора была в пике от 60-80%.

3. Время генерации ответа заняло около 4х минут. Ну то есть спросил и пошел заниматься своими делами.

4. Нагрузка на процессор составляла от 60-80%, 100% нагрузка на память и 10% нагрузка на диск.

Ну то есть вполне сносно. Дал задачу, пошел налил чаю, вернулся, все готово.

Если взять модель помощнее, то все побыстрее будет.

В целом респект. Ощущение, что словно появился домашний термоядерный реактор 😎🤔.

Теперь понятно, почему Nvidia курит нервно и ее акции падают. Потому что для масс маркета такие мощные GPU не нужны

https://vk.com/wall15206436_1072