Наверняка задумывались о том, чтобы развернуть локальную ИИ-модель для своих задач или просто для тестов. Обычно всё упирается в железо, которое нужно для запуска нормальных моделей.
Делюсь проверенным вариантом, как обойтись без покупки оборудования.
Есть сервис vast.ai, где можно арендовать мощные GPU-серверы с посекундной оплатой. Причём, когда сервер не нужен, его можно просто остановить. За сервак в это время не платишь, оплачиваешь только место на диске. Все установленные модели, настройки и данные сохраняются.
В итоге можно развернуть ИИ модель, пользоваться ей пару часов в месяц и не тратить деньги на собственное железо. Удобно и по деньгам выходит вполне адекватно.
