Достал LM Studio из пыльного ящика
В прошлом посте я рассказывал, что n8n сейчас всё больше двигается в сторону AI-агентов и оркестрации.
После этого мне стало интересно собрать небольшой AI-workflow у себя локально.
Но почти сразу возник вопрос:
какую модель туда подключать?
Самый очевидный вариант — ChatGPT через API.
Но для домашних экспериментов мне, если честно, не очень хотелось платить за токены.
Не потому что это какие-то огромные деньги.
Скорее потому что сама идея эксперимента была в том, чтобы спокойно потыкаться, поломать, пересобрать и не думать каждый раз:
«а сколько я сейчас сжёг?»
И тут я вспомнил про LM Studio.
Когда-то я уже ставил её себе, немного поигрался с локальными моделями и забыл.
Тогда в моей голове это была скорее красивая обёртка, чтобы скачать модельку, открыть чат и задать ей пару вопросов.
Полезно, но без ощущения, что это можно нормально встроить в свой workflow.
В этот раз я открыл LM Studio снова и приятно удивился.
Оказалось, что за это время она стала гораздо ближе к нормальному dev-инструменту.
Теперь это не просто “чат с локальной моделькой”.
Скорее небольшой локальный LLM-хаб, через который можно:
• скачивать модели • запускать их локально • тестировать разные варианты • поднимать локальный API • использовать модель из внешних инструментов
И вот последний пункт для меня оказался самым интересным.
Потому что одно дело — открыть приложение и руками пообщаться с моделью.
И совсем другое — поднять модель локально и обращаться к ней как к обычному API.
Тут уже появляются более прикладные сценарии.
Например, можно использовать локальную модель, чтобы:
• суммаризировать текст • классифицировать входящие данные • преобразовывать один формат в другой • генерировать черновики • помогать с рутиной • быть частью какой-то автоматизации
Понятно, что локальные модели всё ещё не всегда дотягивают до топовых облачных.
Особенно если речь про сложный reasoning, большой контекст или задачи, где нужна максимальная точность.
Но для личных автоматизаций этого часто может быть более чем достаточно.
И главное — можно спокойно экспериментировать.
Без ощущения, что каждый запуск стоит денег.
Плюс мне в целом нравится идея не быть привязанным только к одной экосистеме.
Сегодня удобно использовать ChatGPT.
Завтра — локальную модель.
Послезавтра — какую-то бесплатную или корпоративную.
Чем проще между ними переключаться, тем лучше.
И вот тут LM Studio внезапно оказалась очень удачным кандидатом на роль локального LLM-бэкенда.
Не вместо всех облачных моделей.
А как ещё один слой гибкости.
Как инструмент, который можно держать у себя локально и подключать туда, где не хочется жечь токены или отправлять данные наружу.
После этого у меня появилась очевидная мысль:
а что если использовать LM Studio не как отдельное приложение, а как локальную модель для n8n?
И уже поверх этого попробовать собрать локального AI-агента.
Но про это — в следующем посте.