Убиваю рутину AI-агентами | Growth & Automation (n8n, Python, LLM)
· 12.02Вопрос
Используете ли вы локальные LLM (через Ollama/vLLM) для бизнес-задач или облака пока безальтернативны?
8 комментов
· 13.02
Для визуального контента не вижу смысла это делать сейчас. Т.к. рынок памяти дорожает. Чтобы развернуть что-то стоящее у себя нужно потратиться. Но зачем это делать, если компании занимающиеся нейросетями предоставляют платформы бесплатно? Есть много вариантов. Другое дело, что Россия режет доступ... Но это решаемо.
0
ответить
коммент удалён
· 13.02
Если есть ненужный макмини, можно запустить Clawdbot (moltbot).
0
ответить
коммент удалён
· 12.02
Gamma 3 8b От гугла читает фотки и пдф Macbook air на m1 21 года
0
ответить
коммент удалён
· 12.02
Нет. Машина старая тянет с трудом.
0
ответить
коммент удалён
· 12.02
Локальный flux использую. Но не через ollama конечно. Модель установлена и webui
0
ответить
коммент удалён
· 12.02
Локальные в смысле прям локальные (к примеру на той же машине, что и работаю - в моем случае macbook) - да, но в основном для экспериментов. Локальные - в смысле внутри контура организации - да, конечно, с этим можно уже работать, хотя напрямую зависит от вашего оборудования. Облачные в плане гибкости - пока лучший выбор, по моему скромному мнению. Но есть свои нюансы, увы, поэтому это не везде применимо (я про облака ;) ).
0
ответить
коммент удалён
· 12.02
Использую, осталось найти способ, как интегрировать в vs code
0
ответить
коммент удалён
· 15.02
Только локально
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён