7 миллиардов бесплатных токенов для LLM

Нашел крутой проект, который предоставляет 7.4 миллиарда бесплатных токенов в месяц. Внутри 34 LLM провайдера, 635 доступных моделей.

Из провайдеров доступны: Google, Groq, Mistral, OpenRouter, Cloudflare, Z.ai, Nvidia, HuggingFace

Если заканчиваются токены на одной моделе, то сервис продолжает работу с другой. Параметры сессии передает. То есть работа идет без перерыва.

Сервис ставится локально с докером, дальше вписываете бесплатные провайдер ключи и пользуйтесь.

Обратите внимание, что бесплатные токены лучше использовать для тестов, а не для продакшена и чувствительных данных. Вероятней всего компании будут обучать свои модели на ваших запросах.

Сервис тут: https://github.com/tashfeenahmed/freellmapi

Дополнительный список бесплатных LLM API: https://github.com/mnfst/awesome-free-llm-apis

@vladm