🤖DeepSeek Harness + FreeLLMAPI🤖
Продолжаем рубрику «Халявных AI-агентов»!
На этот раз в основу сборки взял относительно новый проект от DeepSeek - DeepSeek Harness (DSH). Проект активно развивается. Есть удобный веб-интерфейс, поддержка разных LLM-провайдеров через API, в том числе локальных моделей, выбор глубины рассуждений при создании чата. Мне, как линуксоиду конечно концепция «всё есть плагин». Уже есть очень много плагинов. добавил в сборку несколько - для сжатия контекста, мониторинга расхода токенов и Plugin Market для подключения новых уже из интерфейса.
⚙️ Как и предыдущие эксперименты, всё собрал в Docker Compose. Проектная директория монтируется с хоста, настройки и сессии хранятся в постоянном Volume.
🆓 Что из бесплатного?
OpenCode Zen - плагин с доступом к бесплатным моделям, работает так же как в OpenCode агенте.
Web Bridge - знакомый по прошлому эксперименту мост между веб-чатами и агентом. Теперь подключил не только DeepSeek, но и Qwen. Модель общается через веб-сессию, а мост преобразует её инструкции в Tool Calls для агента.
⭐ Но главная звезда сборки - FreeLLMAPI! Это локальный API-агрегатор с собственной панелью управления. Добавляем API-ключи разных провайдеров, выбираем интересующие модели, настраиваем очередность, отключаем ненужные варианты и задаём правила переключения при исчерпании лимитов. DSH подключается к нему как к обычному API-провайдеру. Указываем модель “auto”, а маршрутизацию и ротацию моделей оставляем FreeLLMAPI. Получается один агент и целая очередь бесплатных моделей за единой точкой входа!
🧪 Что получилось на практике? Для теста подключил всего пару-тройку провайдеров, доступных из РФ без сложной верификации и привязки карт. Даже с таким набором получил вполне рабочего агента. Лимиты небольшие, но задачи с компактным контекстом вполне по силам. Кроме того чат сохраняет сессию и после обновления лимитов можно продолжать работу, так же с перебором списка до предела.
🏁 Итог: бесплатно пользоваться AI-агентом для разработки вполне реально. Но вместо денег придётся платить своим временем: искать новые инструменты, настраивать интеграции, следить за лимитами и чинить периодически отваливающиеся связки. 😆
Ссылки на все задействованные инструменты и подробности сборки - в репозитории. Возможно, отдельно разберу конфигурацию в следующих постах.
https://github.com/Evgen-it/my-dsh-agent
#DeepSeek #DeepSeekHarness #FreeLLMAPI #Qwen #OpenCode #AIAgents #LLM #Docker #DockerCompose #DevOps #OpenSource #FreeAI