Собрал локального AI-агента через n8n и LM Studio
В прошлом посте я остановился на мысли:
а что если использовать LM Studio не как отдельное приложение, а как локальный LLM-бэкенд для n8n?
Собственно, это я и попробовал сделать.
Идея была простая:
• n8n отвечает за workflow • LM Studio крутит локальную модель • модель вызывается через API • дальше можно навешивать дополнительные инструменты
Первый шаг оказался довольно простым.
Я поднял локальную модель в LM Studio и подключил её в n8n.
На этом этапе уже получается рабочая связка:
n8n может отправлять запрос в локальную модель и получать от неё ответ.
То есть вместо того, чтобы каждый раз идти в ChatGPT API и платить за токены, можно часть экспериментов гонять локально.
Для каких-то сложных задач это, конечно, не всегда замена топовым облачным моделям.
Но для простых автоматизаций, черновиков, преобразования текста или обработки данных — вполне рабочая история.
Но дальше быстро появилась следующая проблема.
Локальная модель сама по себе всё ещё довольно ограничена.
Она может хорошо работать с тем, что уже есть в запросе.
Но если ей нужна свежая информация или поиск в интернете, она упирается в стену.
И тут в игру заходит MCP.
Если совсем коротко, MCP — это способ дать модели доступ к внешним инструментам.
Например:
• поиск в интернете • работа с файлами • GitHub • базы данных • внутренние сервисы • любые другие штуки, для которых есть MCP-сервер
То есть модель перестаёт быть просто “текстогенератором”.
У неё появляются инструменты, которыми она может пользоваться для выполнения задачи.
Я начал с самого очевидного кейса — поиска в интернете.
Подключил SearXNG MCP к LM Studio и попробовал использовать локальную модель уже как агента с доступом к поиску.
И, что приятно, всё завелось.
В итоге схема стала такой:
n8n запускает workflow ↓ LM Studio принимает запрос к локальной модели ↓ модель понимает, что ей нужна дополнительная информация ↓ через MCP вызывает поиск ↓ собирает ответ ↓ возвращает результат обратно в n8n
И вот тут это уже начинает быть похоже не просто на “автоматизацию с LLM”, а на маленького локального AI-агента.
Пока очень простого, но уже с понятной архитектурой.
Получился небольшой локальный workflow, где модель не просто отвечает на запрос, а может использовать инструмент для поиска информации и возвращать результат обратно в цепочку.
Понятно, что это всё ещё экспериментальная история.
Ответы нужно валидировать, MCP-серверы нужно настраивать, а локальным моделям далеко до облачных.
Но как концепт для личных автоматизаций — выглядит очень интересно.
Дальше хочу попробовать собрать несколько прикладных сценариев под себя.
Если получится что-то реально полезное — поделюсь отдельно.
А если интересно, могу потом написать мини-гайд, как собрать такой локальный сетап:
n8n + LM Studio + MCP + SearXNG.
· 09.06
Вижу брата по разуму! Сейчас занимаюсь подобными экспериментами, но с маленьким нюансом)) все это сначала обкатываю на 16 летнем mac pro 3.1 2008. На данный момент удалось написать статью на сайт и закинуть ее в черновики ВордПресс. Хотелось бы победить встраивание сео и длинную очередь задачь, но как я думаю из за старой версии n8n и слабой gemma 2 сталкиваюсь с падением сервера из за обширности задачь . Надеюсь что получиться улучшить результаты, получить опыт и перенести все это на более свежее железо , в проекте перенос стекла на МакБук про 2012 на 11 мак ос, imac Catalina 2013 и macmini m4.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 10.06
На отдельной машинке наверное все это пободрее, я квен локальный на рабочий ноутбук ставил рядом с докерами и прочим, немного конечно подтупливано все. Но если смотреть в долгосрок, каждому кто захочет использовать ллм скорее всего так или иначе придется поднимать свою локальную модельку, когда провайдеры цены поднимут.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 10.06
У меня на каждой машинке хоть одна локальная имеется для страховки на случай отсутствия инета, как инструмент анализа или структурирования текста, а с учётом опасности в скором времени остаться без хороших моделей в чебурнете что могу качаю в прок. На мак мини м4 из терабайта приложений с ИИ и моделей разных уже 500 гигов съело, но там и картинки и видео. Вот допустим недавно пришлось искать квантованную qwen 3.6 потому что обычная свопила SSD аж на 20 гигов. Считаю что в недалёком будущем локальная модел будет обязательным инструментом как Ворд или pdf reader. Уже год являюсь не официальным бетатестером deepseek, ребята круты и пока очень не жадные в отличии от скрепных аналогов. Что у вас за железо на ноуте и ос если не секрет!? Я в основном юзаю мак ос, на мак про 2008 года упёрся в древность системы 12 и не полноценный драйвер видеокарты который через опен коре не задействует ее для локальных моделей. Буду пробовать ставить убунту читал что она нормально грузит драйвера и можно запускать модели по тяжелее чем gemma2b ( на мак ос на этой машине это лучшая по скорости и качеству, qwen 2.5 в диалоге уже медленно, и обработка задачь в n8n часто падает , так и не разобрался пока почему.)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 10.06
Вообще у меня обычный мак на м1 про, в целом более менее нормально тянет модельки локально, но тоже со скрипом. Думаю пора на m4 обновляться, там думаю бодрее будет. Ну или ещё есть пк с райзен 5 и дискретной видеокартой которым не пользуюсь почти, была тоже идея его как сервер для запуска локальной модели использовать.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 11.06
Будете пробовать на райзене напишите как будет тянуть, собираю подобную инфу. По поводу обновления железа слышал что м5 реально лучше м4 про и 32 Гб все же маловато, хотя если учесть что прогресс в сжатии моделей идёт семимильными шагами может быть и нормально. К примеру для полноценной работы с видео моделями локально 32 Гб на м4 откровенно мало, есть вариант как я читал на маки подключать внешнюю сильную видеокарту но только читал и цен на адаптер и как это все прикручивается в реале подробных гайдов не нашел
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён