Локальный ИИ на 120B параметров с потреблением 30 Вт -уже реальность. До недавнего времени On-Premise LLM в сегменте МСБ упирались в жесткую дилемму: либо вы крутите слабые квантованные модели (7B–8B) на офисном железе и получаете галлюцинации на сложных бизнес-задачах, либо собираете GPU-сервер на картах Nvidia за $10k–$15k с киловаттным теплопакетом. Анонсы устройств класса Lenovo AI Host P7 (предзаказ в Китае стартует уже в октябре) ломают эту экономику. Что под капотом у нового класса Edge AI устройств: Архитектура без Nvidia/Intel/AMD: 12-ядерный ARM-чип CIX P1 + дискретный нейропроцессор Houmo M50 с технологией Compute-in-Memory (вычисления в памяти). Спеки: до 64–80 ГБ унифицированной/LPDDR5 памяти, до 190 TOPS, поддержка моделей до 122 млрд параметров при контексте 128k токенов. Форм-фактор: 300 граммов веса, TDP всего 30 Вт, шум <35 дБА. Как практикующий vCIO, я смотрю на такие девайсы не как на «умную приставку для рабочего стола», а как на недостающее звено микро-серверной для компаний на 15–150 человек. Как встроить 30-ваттный ИИ-узел в боевой контур РФ (1С + n8n + NAS) В реалиях 2026–2027 годов (оборотные штрафы по 152-ФЗ, налоговая реформа с НДС на УСН, тотальный поэкземплярный «Честный Знак») отдавать фин. первичку и ПДн во внешние облачные LLM для многих собственников — табу. Связка Локальный NAS (Docker + n8n) - > ИИ-хост по 2.5GbE - > 1С:УНФ / 1С:УТ решает сразу 4 класса задач без единого рубля абонентской платы за токены: 3PL-склады и фулфилмент: Асинхронный парсинг неструктурированных заявок поклажедателей (кривые Excel, PDF, фото накладных) через локальную VLM/LLM прямо в документы ордерного склада 1С. Аудит биллинга: загрузка в окно 128k токенов сложного договора ответхранения и реестра складских операций за месяц для поиска услуг (маркировка, переупаковка, паллетирование), которые склад оказал, но забыл выставить в счет. Опт и B2B-торговля: Дедупликация и нормализация справочника «Номенклатура» в 1С при загрузке прайсов десятков поставщиков (модели 70B+ отлично справляются со сложными тех. атрибутами и ГОСТами, где пасуют 8B-модели). Автоподбор спецификаций под тендеры с учетом партионных остатков (FEFO/FIFO) и целевой маржи. Zero-cost речевая аналитика: Ночная пакетная транскрибация записей с Asterisk/IP-АТС и прогон по чек-листам отдела продаж с выгрузкой алертов в CRM/Telegram. Нишевый МСБ с жесткими требованиями к тайне (бухаутсорсинг, СТО, частные клиники, юрфирмы): Локальные RAG-базы по техдокам, клиническим рекомендациям или базе ФНС/ИТС без выхода данных за пределы периметра локальной сети. Инженерный трезвый взгляд (о чем молчат маркетологи): Пропускная способность памяти (Memory Bandwidth): Запустить монолитную 122B модель в 80 ГБ LPDDR5 можно, но чуда в синхронном режиме ждать не стоит — упремся в шину памяти (получим ~4–7 t/s). А вот для MoE-архитектур (где активны 15–30B параметров) или очередей фоновых задач в n8n, которым не нужен мгновенный ответ в чат — это идеальный рабочий мул. Вендор-лок и отсутствие CUDA: Китайский стек CIX + Houmo требует внимания к зрелости Linux-драйверов и поддержке стандартных рантаймов (llama.cpp, Ollama, vLLM). Критерий пригодности для бизнеса один: способность поднять из коробки стабильный OpenAI-совместимый API-эндпоинт.

Коллеги-айтишники и руководители: уже присматриваетесь к энергоэффективным ARM/NPU-коробкам под задачи локальной автоматизации, или пока предпочитаете классику на базе GPU от Nvidia / аренду облачных API? Делитесь опытом в комментариях!