Есть AI-агент — Уроборос. Он сам решает, какую языковую модель подключить к задаче: не человек выбирает, а система смотрит на запрос и маршрутизирует. За несколько месяцев работы агент прогнал через себя больше 500 миллиардов токенов — и за это время собрал данные, честнее любого стандартного бенчмарка. Я это применяю в обучении: покажи реальный трафик реальных задач — и картина куда точнее, чем чьи-то ощущения.

Вот что агент выяснил про модели.

Обзор моделей по данным Уробороса Claude opus — выбор по умолчанию для сложных задач. Лучше всего держит контекст в длинных цепочках рассуждений, пишет связные тексты, думает в несколько ходов. Если задача требует не просто ответа, а логики с выводами — opus берёт своё.

Быстрые/лёгкие модели (Claude haiku, GPT-4o mini и аналоги) — агент гоняет сюда всё, где важна скорость и не нужна глубина: черновики, брейншторм, «накидай варианты», простые вопросы с однозначным ответом. Дорогую модель на это тратить — платить за Ferrari, чтобы возить картошку.

Средний эшелон (Claude sonnet, GPT-4o) — рабочая лошадка для большинства задач: анализ текста, код средней сложности, структурированные ответы. Агент переключается сюда, когда задача не требует максимума, но и haiku уже маловато.

Специализированные модели — агент выяснил, что для кода и технических задач имеет смысл отдельный роутинг: модели, заточенные под программирование, справляются лучше универсальных даже в топовом эшелоне.

Главный вывод из 500 млрд токенов: нет одной лучшей модели на все случаи. Есть правильный выбор под конкретную задачу.

Как применять это без агента — руками

Принцип маршрутизации работает и вручную. Я так и делаю:

1. Определите тип задачи до того, как открывать модель. 10 секунд на вопрос себе: это генерация, анализ, код или многошаговое рассуждение? Экономит кучу времени на переспросы.

2. Используйте разные модели под разные режимы. Черновик и брейншторм — быстрая и дешёвая. Финальная редакция, сложный анализ, длинная логика — самая мощная.

3. Ведите личные заметки по результатам. Уроборос делал это автоматически. Вы можете в обычном документе: задача → модель → оценка ответа. За месяц-два появляется реальная картина, а не ощущения.

Вот промт, который я использую сама, чтобы быстро понять, куда маршрутизировать задачу:

Оцени мою задачу по трём параметрам: (1) нужна ли многошаговая логика или достаточно одного ответа, (2) важна ли скорость или качество, (3) это разовый запрос или часть длинного диалога. Дай рекомендацию: какой тип модели (быстрая/мощная) лучше подойдёт и почему.

Задача: [вставьте свою]

Полтриллиона токенов через одну систему — это данные, которые подтверждают то, что я и так говорю на обучениях: думайте перед запросом, а не после. Правильная модель под задачу даёт лучший результат, чем лучший промт в неправильную модель.

📻 Подписывайся на В эфире радио Свеклана

В этом посте были ссылки, но мы их удалили по правилам Сетки