Конфиг из видео для Ollama { "$schema": "https://opencode.ai/config.json", "provider": { "ollama": { "npm": "@ai-sdk/openai-compatible", "name": "Ollama (local)", "options": { "baseURL": "http://127.0

войти

лента
нетворк
создать
чаты
профиль

Meta Human

DevOps | Backend: GO, Python, PHP

· 19.07

Конфиг из видео для Ollama { "$schema": "https://opencode.ai/config.json", "provider": { "ollama": { "npm": "@ai-sdk/openai-compatible", "name": "Ollama (local)", "options": { "baseURL": "http://127.0.0.1:11434/v1", "apiKey": "ollama" }, "models": { "maxwell1500/ornith-9b:Q4_K_M": { "name": "Ornith 9B — fast" }, "maxwell1500/ornith-35b:Q4_K_M": { "name": "Ornith 35B MoE — heavy" } } } } }

1 коммент

Александр Рогов

· 20.07

Гоняю Ollama локально для приватных экспериментов, но в конфиге вида openai-compatible регулярно спотыкался на несовпадении context window между моделями. baseURL подхватывается нормально, а лимит токенов из дефолтов провайдера не всегда совпадает с реальным у конкретной модели. Ты уже фиксировал num_ctx отдельно под каждую модель в конфиге, или берёшь дефолт?