Узкая модель не точнее, но дешевле в 76–440 раз

В 2023 году авторы работы «Can Generalist Foundation Models Outcompete Special-Purpose Tuning?» показали, что GPT-4 с подсказками (метод Medprompt) превосходит специализированную медицинскую модель Google Med-PaLM 2. По их словам, на тесте MedQA (вопросы медицинских экзаменов) ошибок на 27% меньше, чем у лучших прежних результатов, и впервые больше 90% правильных ответов. Универсал выиграл у специализированной модели в точности — на вопросах с известными верными ответами.

В 2026 году узкие модели возвращаются, но не точностью. 15 сентября TypeSafe AI объявила Jev: модель не пишет текст, а возвращает типизированный ответ (вариант из списка, балл или вероятность «да») с откалиброванной вероятностью (оценкой уверенности, которая соответствует доле верных ответов). По обзору DataCamp, в тесте самой TypeSafe по четырём сценариям Jev совпал с эталоном в 67,8% случаев; цена $0,0004 за кейс, задержка 0,4 с. Эталон — усреднённые ответы моделей OpenAI и Anthropic, так что «точность» здесь означает близость к ответам крупных универсальных моделей.

Для сравнения универсальные модели (совпадение, цена за кейс, задержка): GPT-5.6 Terra — 67,9%, $0,0304, 10,1 с; GPT-5.6 Sol — 74,1%, $0,0836, 23,3 с; Claude Opus 5 — 73,1%, $0,1761, 37,8 с. Jev на уровне Terra (67,8 против 67,9%), отстаёт от Sol и Opus на 5–6 процентных пунктов и дешевле на 76–440 раз по цене за кейс. Сценарии писала сама TypeSafe, независимого воспроизведения нет, объяснения ответа модель не даёт.

Точностью возвращение не объяснить: Jev на уровне одной из трёх моделей и уступает двум; зато он дешевле и быстрее (0,4 с против 10–38 с). Остаётся цена; это предположение автора поста, источники его прямо не делают. Цена достижения уровня GPT-4 на тесте GPQA Diamond (вопросы по естественным наукам) падала примерно в 40 раз в год (оценка Epoch AI по данным до начала 2025 года; по разным порогам — от 9 до 900 раз). При этом Gartner в августе 2026 года прогнозировал, что стоимость работы модели (инференса) на один процесс ИИ-агента до 2028 года вырастет более чем впятеро, хотя цена токена падает: каждый дополнительный шаг рассуждения и вызов инструмента добавляет вычисления. Если шагов много, абсолютная разница между $0,0004 и $0,03 за вызов растёт вместе с их числом.

«Узкая» здесь значит узкая по формату задачи, а не обязательно не языковая. Из четырёх новых узких моделей — Jev, Clef, Kev и Laya — у Jev архитектура не раскрыта (DataCamp называет её «новой архитектурой»). Clef от Cloudflare (1 октября) по словам Cloudflare в пересказе The Register построен на готовых моделях Qwen. Kev, по вторичным обзорам, построен на Qwen3.5. И только Laya (421 миллион параметров) построена на энкодере ModernBERT-large и текст не генерирует. По четырём примерам можно лишь предположить, что уходят от универсального чата, а не от языковых моделей.

Сторонники специализации тоже говорят о наборе моделей, а не о замене. В статье NVIDIA «Small Language Models are the Future of Agentic AI» малые модели названы более подходящими для многих вызовов агента: обслуживание модели на 7 миллиардов параметров в 10–30 раз дешевле, чем на 70–175 миллиардов. Для универсальной беседы авторы предлагают системы, в которых агент вызывает разные модели; вопрос об экономии масштаба у централизованных LLM они оставляют открытым.

Не измерено главное: какую долю вызовов агента можно отдать узкой модели без потери качества. У Jev точность проверяли только на четырёх сценариях самой TypeSafe; какую долю вызовов можно доверить такой модели, не измеряли.