И так, сегодня для нас доступно множество моделей, которые не требуют подключения к интернету, на них нет лимитов, они многое могут, сравнивают уже с предыдущими версиями Claude, GPT.

Но все ли так красиво как то пишут? Если у тебя есть деньги - Да! Все красиво)

По порядку: Видим надпись - “своя модель у вас на смартфоне” имеет место быть, но она будет тупая как валенок, мощности вашего смартфона хватит не более чем на пару десятков тысяч токенов контекста. В итоге вы только разрядите АКБ. И все, но, ваша локальная модель с вами “Поздоровается”. Т.е для смартфона можно забыть про такие бесплатные модели как Qwen 3.8 на 27 миллиардов параметров, или Ornit 1.5 на 9 миллиардов. Для смартфона qwen 3.5 2B, 4B Просто хорошие ассистансы, но и смартфон не бюджетный, как минимум сильный Android, в идеале 12+ ГБ RAM

Не мучайте свои телефоны.

Выкидываем. А что насчет ПК?

Если вы думаете “О, ща буду бесплатно кодить” то нет, не будете 😁

Для моделей с большим числом параметров нужен не слабый такой ПК, даже покруче чем те ПК, на которых в игрушки любите поиграть, тут у нас оочень требовательная игрушка)

И так, спросив у нейросетей, какой лучше выбрать ПК для комфортного использования Qwen с большим размером контекста, на потребуется следующий ПК: Если МАК то: Mac Studio M5 Max

40-core GPU 48 GB Unified Memory 1 TB SSD

Цена: примерно от 3000 евро.

А Если Windows? RTX 3090 24 GB + 64 GB RAM + Ryzen 7 7700/9700X или даже более старый Ryzen 9 5900X + NVMe 2 TB + БП 1000 W

Цена: от 2000 евро.

И это не топ сборки😁

На пару тысяч евро я буду 2 года использовать старшие версии подписок на топовые модели))

Как вам такие относительно бесплатные локальные модели?)

Используете ли Вы локальные модели? Какие? Смартфон или ПК? Жду в комментах)