В LLM-интерфейсе список моделей часто кажется чем-то статичным. Загрузили один раз при открытии страницы и этого как будто достаточно. Но такая схема быстро устаревает. У провайдера меняется набор free-моделей, часть маршрутов исчезает, часть начинает работать нестабильно, а фронт продолжает показывать пользователю старую картину.

Возникает расхождение между интерфейсом и backend. Пользователь выбирает модель, которую фронт все еще считает доступной, а backend уже живет в другой реальности. В результате система выглядит рабочей до первого сбоя.

Нужно не держать список моделей как одноразовую загрузку, а обновлять его polling-механикой с разумным интервалом. Тогда фронт получает свежий набор вариантов без ручной перезагрузки страницы, а сам агрегатор остается согласованным с провайдером.

Статья на Хабр Витрина проекта: AI Chat github Проект: AI Chat Stepik: AI на Django и Next II

#django #python #typescript #llm #openrouter #ai #api #fullstack #webdevelopment #polling