Mistral выпустила очередного котика — и на этот раз жирного. Буквально: модель называется Le Chaton Fat Le Chonk. Это не шутка, это официальное название.

Но я хочу поговорить не про название, а про то, что теперь у нас есть ещё одна триллионная модель с API — и это хороший повод разобраться, как вообще выбирать модель под задачу, когда их стало слишком много.

Я делаю это с помощью одного промта, который использую сама на разборах и в обучении.

Промт для выбора модели под задачу

Я работаю с такими задачами: [перечисли 3–5 типичных задач — например, «пишу тексты для соцсетей», «анализирую данные в таблицах», «генерирую идеи для продукта», «разбираю документы на 30+ страниц»].

Вот модели, между которыми я выбираю: [например, Claude Sonnet 4, GPT-4o, Gemini 1.5 Pro, Mistral Large 4].

Для каждой задачи: какая модель справится лучше всего и почему? Учитывай контекстное окно, качество рассуждений, скорость и стоимость. Ответ — таблицей: задача / модель / причина.

Вот как это работает на практике:

1. Заполняешь свои задачи честно — не «мне надо умное», а конкретно что делаешь руками каждый день.

2. Вставляешь список моделей, которые реально доступны вам (с учётом бюджета — тот же Mistral Large 4 стоит $1.36/$4.18 за миллион токенов, это не дёшево).

3. Получаешь таблицу — и уже на неё смотришь критически: не слепо следуешь, а проверяешь пару пунктов на практике.

Типичные ошибки, которые я вижу:

— Берут самую мощную модель на все задачи подряд. Платят за Ferrari, а ездят в магазин за хлебом.

— Не учитывают контекстное окно. Mistral Large 4 — триллион параметров, 52 миллиарда активных. Звучит внушительно. Но если ваша задача — обработать 200-страничный контракт, важно знать, сколько токенов влезает в один запрос, а не сколько весит модель.

— Сравнивают модели по бенчмаркам, а не по своим задачам. Бенчи — это как рейтинг ресторана на картах: важен, но не гарантирует, что вам понравится именно это блюдо.

Дополнительный промт — для быстрой проверки модели под конкретную задачу:

Вот моя задача: [опиши]. Реши её. После решения — оцени сам: насколько уверенно ты справился, где были сложности, что мог сделать лучше. Честно, без комплиментов себе.

Этот промт я использую, когда хочу протестировать новую модель быстро. Самооценка модели — неожиданно полезная штука: хорошие модели честно говорят, где плавали. Слабые — всегда довольны собой.

Mistral Large 4 я ещё сама не гоняла вдоль и поперёк — модель только вышла в превью. Но по первым ощущениям: в одной лиге с топами, но не впереди. Посмотрим, как поведёт себя в реальных задачах, а не на бенчах.

📻 Подписывайся на В эфире радио Свеклана

В этом посте были ссылки, но мы их удалили по правилам Сетки