Промпт тот же. Задача та же. Модель вчера писала живо и точно, а сегодня выдаёт гладкую безвкусную жижу, забывает половину условий и путает «не рекомендуется» с «категорически запрещено».

Это не «настроение модели» и не магия — в большинстве случаев это экономика.

⚡ Нейросеть — это счёт за электричество

LLM — не эльф в облаке. Это миллиарды параметров, перемножаемые при каждом запросе на дорогих GPU. Сервер с восемью H100 — сотни тысяч долларов за железо, плюс питание, охлаждение и инженеры.

Подписка стоит 20–30 долларов в месяц, а активный пользователь «сжигает» токенов на куда большую сумму. Провайдер зарабатывает на тех, кто раз в день спрашивает рецепт пасты, и теряет на тех, кто пашет с ИИ весь день.

Отсюда невидимая оптимизация. Не заговор — ползунок «цена/качество» каждый день сдвигают на миллиметр в сторону цены.

🔍 Как именно экономят на вашем качестве

1. Квантизация. Веса хранятся в точных форматах вроде FP16, их сжимают до INT8 или INT4: модель худеет, работает быстрее, копий на сервере больше.

В среднем потери невелики, но «в среднем» — цифра для бенчмарков, не для вашей работы. Бьёт квантизация по тонкому: интонации, иронии, авторскому голосу. Текст становится грамматически правильным, но мёртвым.

2. Урезание контекста. Контекстное окно — оперативная память диалога: чем длиннее, тем дороже запрос. Поэтому старую часть сжимают или обрезают.

Результат знаком: вы задали стиль, запреты и аудиторию, а через пять сообщений модель «забыла» половину. Она не забыла — она этого уже не видит.

3. «Разгон» генерации. Меньше шагов на размышление, агрессивнее сэмплирование, урезанные reasoning-модули. Ответ за две секунды вместо восьми — модель перестаёт думать над сложным и выдаёт первое попавшееся продолжение, почти всегда самое шаблонное.

4. Синтетические данные. Человеческих текстов всё меньше, данных — всё больше, поэтому модели дообучают на своих же генерациях. Смесь со свежими человеческими текстами иногда помогает, но когда синтетика вытесняет человеческое, начинается model collapse: модель копирует свои ошибки, штампы и усреднённость. Отсюда бесконечные «важно отметить» и «в современном мире».

5. Динамическое переключение. В часы пик часть трафика отправляют на более дешёвую версию: агрессивнее квантизация, меньше контекст и вычислительный бюджет. Уведомлений не будет — качество проседает, а вы думаете, что разучились писать промпты.

📊 А бенчмарки вам ничего не скажут

MMLU, GSM8K, HumanEval красиво выглядят в презентациях, но не измеряют главное: умеет ли модель писать хороший текст и держать голос.

Бенчмарки ещё и «загрязнены»: модели могли видеть похожие задачи при обучении. На свежем аналоге GSM8K — GSM1k — точность части моделей заметно упала: часть результатов — узнавание знакомых задач, а не рассуждение.

🛠 Что делать практически

- Держите 2–3 модели: Claude, GPT, Gemini, локальная. Выдала мусор — переключайтесь: это диверсификация, а не паранойя. - Рутину — заголовки, абзацы, грамматику — отдайте локальной модели (Ollama, LM Studio): поведение стабильно, версию не сменят под вами. - Фиксируйте удачные конфигурации: промпт, модель, версия, параметры. Через неделю тот же промпт выдаёт халтуру — это не вы разучились. - Ведите журнал. Дата, модель, промпт, результат. Через месяц у вас будут данные, а не ощущения. - Тестируйте на своих задачах: 10–20 типовых кейсов с критериями «хорошо/плохо», гоняйте через обновления. Бенчмарки из презентаций — не ваша работа.

🧩 Главная мысль

Провайдеры не злодеи, а бизнесмены: обучение frontier-модели стоит сотни миллионов долларов, подписка — двадцать баксов. Экономика должна сходиться.

Для обычного пользователя «миллиметр» незаметен. Профессионал, делающий текстом деньги, получает часы правок и чувство, что вместо инструмента подсунули коробку с дыркой от бублика.

Поэтому слепо верить чёрному ящику не стоит: держите запасной аэродром, фиксируйте связки и проверяйте модели на своих задачах.

Подробный разбор в моем Дзен https://dzen.ru/a/auSgLk0n9k5dgaej