Роутинг AI-агента - фундамент. Предлагаю пробежаться по 4 подходам 👇

Маршрутизация на основе ML-модели. Используем отдельный классификатор, обученный на наборе размеченных примеров. В отличие от LLM, решение здесь не генерируется по промпту — логика выбора зашивается в веса модели.

Маршрутизация на основе LLM Языковой модели даём подсказку (промпт), чтобы она разобрала запрос и вернула простую метку/команду — какой шаг делать дальше. Пример: «Проанализируй запрос и верни только одну категорию: “Статус заказа”, “Информация о продукте”, “Техподдержка” или “Другое”». Агент читает метку и идёт по нужному пути.

Маршрутизация на основе эмбеддингов Запрос превращаем в набор чисел — вектор (эмбеддинг) — и сравниваем его с векторами, которые описывают разные маршруты/возможности. Выбираем тот путь, чей вектор ближе всего. Это про «семантику»: решаем по смыслу, а не только по ключевым словам.

If-Else Маршрутизация Работает по заранее заданным правилам (if-else), которые смотрят на ключевые слова, шаблоны или структурированные данные из запроса.

В реальности почти всегда используется маршрутизация на основе LLM — она самая эффективная и лежит в основе большинства высокоуровневых агентных библиотек. Сильно реже для маршрутизации берут отдельные ML-модели. Остальные подходы — if-else и эмбеддинги — чаще работают как вспомогательные слои.