Подумываю отказаться от всех подписок на ИИ

Собираю коммерческую версию своего бота Толстосум. Кто не в курсе, это бот для оценки перспективности бизнес-идей.

В какой-то момент понадобилось выгрузить базу знаний в векторное хранилище. Способов много, но один из простых — через Open Web UI. Это open-source интерфейс, который ставишь на свой сервер и подключаешь к нему любые модели по API. Локальные, облачные, без разницы. Всё под одним окном.

И тут до меня начинает доходить, что я могу его использовать вместо нейронок по подписке.

Начал считать

С мая прошлого года работаю с DeepSeek через Obsidian. Объем переработанной информации сравним с десятком книг по 500 с лишним страниц. Потратил меньше доллара.

DeepSeek дешевле ChatGPT раз в десять-двадцать, зависит от модели. Но я пошёл дальше и прикрутил к API ChatGPT несколько своих решений: рефлексо-бот и аналог Токи для управления календарём. Это крутится ежедневно уже пять месяцев. Тоже меньше доллара.

Понятно, что мои сценарии — это переработка текстов и короткие автоматизации, а не задачи с огромным контекстом. Но разница всё равно заметная.

Как устроены подписки

Подписка на ChatGPT или Claude стоит 20 долларов в месяц. За эти деньги провайдеры ограничивают количество токенов, которые можно использовать.

В Claude это выглядит так: работаешь, работаешь, и в какой-то момент он говорит подождать три часа. В ChatGPT ограничения менее явные, но они есть. И ещё исследования показывают, что фактический размер контекста в веб-версии меньше заявленного.

По факту модель подписки — это уравниловка. Один пользователь тратит 10 токенов, другой 100. Платят одинаково. Первый переплачивает, второй не добирает. Провайдерам так проще сводить экономику.

А когда покупаешь токены по API, в каждом уже заложена маржа провайдера. Платишь за то, что реально используешь. Есть ограничения скорости, но для большинства задач они не критичны.

Что из этого следует

Сейчас я тестирую Open Web UI с подключёнными через API моделями. Если инструмент покажет тот же результат, что я получаю в Obsidian, перехожу на него полностью.

И ещё появляется возможность подключать локальные модели. Это вопрос безопасности данных.