Локальный ИИ стал намного проще.

ODS сам определяет характеристики компьютера, подбирает подходящую модель, скачивает её и запускает локальный инференс вместе с Open WebUI.

Через одну панель можно подключать голос, агентов вроде Hermes, RAG, поиск, генерацию изображений, рабочие процессы и другие инструменты.

Не нужен облачный сервис и подписка. Ваши запросы и данные остаются на вашем устройстве, если только вы сами не решите иначе.

https://github.com/Osmantic/ODS

Локальный ИИ стал намного проще.
ODS сам определяет характеристики компьютера, подбирает подходящую модель, скачивает её и запускает локальный инференс вместе с Open WebUI | Сетка — социальная сеть от hh.ru