🖥 ИИ ПОСЕЛИЛСЯ В КОМПЬЮТЕРЕ Модель на 125 миллиардов параметров больше не требует серверной стойки в подвале. Теперь ей хватает домашнего ПК — правда, не самого скромного. 🧠 КАК ЭТО ПОНИМАТЬ? • 🧠 Большая модель работает локально Опенсорс-движок Strata запускает Qwen3.8-Flash-Next на 125 миллиардов параметров прямо на компьютере.

• 🎮 Суперкомпьютер не обязателен Судя по описанию, нужна видеокарта с 8–12 ГБ VRAM. Среди примеров указаны RTX 3060, RTX 4070 и RX 7900 XT.

• 🧩 Нагрузка делится между железками Часто нужные «эксперты» модели сидят в видеопамяти, остальные подхватывает оперативка. SSD работает как большой склад данных.

• 💬 Это не только чат Модель держит контекст до 128K токенов, пишет и объясняет код, а ещё разбирает скриншоты, диаграммы и фотографии.

• 🔧 Установку собрали в скрипт На Windows запускается START-HERE.bat, на Linux — setup.sh. Установщик определяет железо, выбирает квантизацию и открывает веб-интерфейс. 🔥 КТО ВЫИГРАЕТ? ▸ Облако больше не посредник Запросы обрабатываются на своём устройстве. Личные документы и переписки не нужно отправлять внешнему сервису 🔒

▸ Большую модель разложили по полкам Раньше она просто не помещалась бы в видеопамять. Strata распределяет части модели между GPU, RAM и SSD — как вещи в маленькой квартире 🗄️

▸ Нет оплаты за каждый токен После настройки остаются расходы на своё железо и электричество. Счётчик API больше не тикает после каждого вопроса 💸

▸ Настройки выбирает сам владелец Можно взять Coder для задач с кодом или Swift 1.5 для быстрых черновиков. Не магическая кнопка, но уже похоже на конструктор 🛠️

▸ Свободы становится больше Локальная модель не зависит от фильтров облачного сервиса. Вместе со свободой вся ответственность за запросы и результаты переезжает к пользователю 🧯 💼 КОМУ ЭТО НУЖНО? ▸ Разработчик получает помощника без облака Можно просить модель написать тесты, объяснить чужой код или поискать ошибку. Для таких задач отдельно предусмотрена версия Coder 💻

▸ Закрытые документы остаются внутри Потенциальный сценарий: юрист разбирает договоры, а финансовый аналитик — внутренние отчёты без отправки файлов стороннему API 📄

▸ Поддержка ищет ответы в базе знаний Компания может развернуть Strata на своём сервере и подключить внутреннюю документацию. Но точность ответов всё равно придётся проверять 🤖

▸ Изображения можно разбирать локально Потенциальный сценарий: команда загружает фотографии товаров, накладные или диаграммы и просит модель извлечь смысл без отдельного OCR-сервиса 📷

▸ Перед стартом стоит запастись терпением Первая загрузка модели может занять около минуты. Дальше ответы идут быстрее, но итоговая скорость зависит от конкретного компьютера ⚡ 🔹🔹🔹🔹🔹🔹 🏆 ЛУЧШИЕ ПРОМПТЫ В PROJECT POOL 🤖 ИИ АГЕНТЫ — собери своего 📈 ИИ-агенты. - просто и понятно #новости #news #нейросети #ии

В этом посте были ссылки, но мы их удалили по правилам Сетки