Когда в продукте появляется выбор LLM, первая естественная идея выглядит так - отдать пользователю весь список моделей от провайдера и считать, что выбор уже сделан. На практике это быстро превращается в шум. В списке оказываются десятки близких вариантов, часть из них нестабильна, часть меняется местами, часть формально free, но в реальной работе мало полезна.

Рабочая развилка здесь в том, чтобы не тащить на фронт весь каталог. Backend может сначала отфильтровать живые free-модели, сгруппировать их по брендам и оставить по одному представителю на бренд. Тогда пользователь получает не бесконечный список id, а короткий и понятный набор вариантов. Это упрощает выбор, снижает хаос в интерфейсе и делает fallback между брендами намного понятнее.

Такой агрегатор решает не только UI-задачу. Он помогает удерживать продукт в управляемом состоянии, когда модели у провайдера меняются, исчезают или начинают отвечать нестабильно.

Статья на Хабр Витрина проекта: AI Chat github Проект: AI Chat Stepik: AI на Django и Next II

#nextjs #Django #Python #TypeScript #LLM #OpenRouter #AI #API #Fullstack #webdevelopment