4 месяца. Сотни миллионов токенов. Десятки тысяч строк кода.
Это лишь скромная часть того, сколько времени ушло на то, чтобы сделать механизм, позволяющий экономить мне, а теперь и другим пользователям, лимиты на десктопном кодексе.
Так как я давний фанат вселенной трансформеров, плагин я назвал Vector Prime.
Итак, как работает и что умеет эта хрень, постараюсь изложить коротко, а инженеры и без меня смогут разобраться: код я по большей части писал и проектировал сам, поэтому там всё довольно чисто и понятно.
Плагин смотрит на задачу и подбирает под неё модель, глубину рассуждений и скорость с учётом того, что важнее в конкретной работе: время, качество или расход лимитов.