Мои друзья из CERBER ARBITRAGE посоветовали мне интересную статью на тему локального поднятия нейросетей.

В статье идет речь про поднятие на удаленном сервере, но я решил протестить и развернуть на локалке. По факту функционал тот же самый, включая апи.

Сейчас делаю много запусков УБТ трафика с pinterest на разные ниши и направления. Так вот самая дешевая АИ для генерации картинок это fal.ai Но когда ты начинаешь наращивать обьемы, то и расходы начинают равномерно расти на ИИшку.

Было принято решение поднимать локально. Тут 2 главных требования есть. Видеокарта и оперативная память. По памяти у меня 32ГБ, не замечаю работу, с головой хватает. Карта RTX3080 на 10гб тоже хватает с головой для нормальных изображений. Потребление видеопамяти в районе 8гб.

На картинке к посту первая генерация на локальной иишке по апи. Довольно не плохой результат с ноги. Подкручу настройки и результат думаю будет в разы лучше.

Как поднять сервер с нейросетями: cerber-team.notion.site

В этом посте были ссылки, но мы их удалили по правилам Сетки