Облака не бюджетные лошадки

Я уверен, что за облаками будущее. Они появились не вчера, но дальше их роль будет только расти. Поэтому как специалист по данным я решил сфокусироваться именно на этом направлении и выбрал для практики Яндекс Облако.

Раньше я уже немного с ним сталкивался. Например, когда хотел развернуть свой сайт или подключить Алису в канал. Но дальше экспериментов дело не заходило.

Потом появился заказчик с проектом в облаке. Он сам поднял PostgreSQL и Airflow, а мне нужно было через веб-интерфейс настроить интеграцию с API и довести задачу до результата.

Это я умею, так как работал с этими инструментами в docker, и соответственно быстро справился.

До этого я уже смотрел в сторону облачных курсов, виртуальных машин, Yandex AI и других сервисов. Но для своих проектов чаще выбирал open-source инструменты и разворачивал их на личном сервере. Для повседневных задач это сильно дешевле.

Сейчас я учусь на архитектора данных. Нашел бесплатный курс, где почти вся практика проходит в Яндекс Облаке. Только есть нюанс - за ресурсы плачу я сам.

Сначала идея казалась отличной. Бесплатное обучение, реальные инструменты, практика руками. Но когда начались проекты, я понял, что основная стоимость обучения в курсе эквивалентна инфраструктуре, то есть ты отдаешь те же деньги если бы ты купил курс за 100 000 руб.

Один из первых проектов был про массовую загрузку данных в Greenplum через Spark, дальше — загрузка в ClickHouse и визуализация.

Я старался экономить и останавливал кластеры, пока разворачивал следующий инструмент. Получались такие технические «пятнашки» - поднял один сервис, остановил, поднял второй, остановил, потом быстро прогнал код на всех рабочих кластерах и закрыл проект.

С тезнической частью у меня проблем не возникло, с помощью нейро-ассестента я достаточно быстро разобрался какие подсети создавать, как связывать инструменты и самое главное я наконец-то понял зачем нужен этот странный сервисный аккаунт.

Главная сложность оказалась финансовой.

За день игры в «пятнашки»  я потратил примерно 1000 рублей. Вечером остановил ресурсы и пошел спать. Утром открыл баланс и увидел уже минус 1500.

То есть даже остановленные ресурсы продолжали заметно списывать деньги.

Да, я знал, что кластер Greenplum может стоить около 250 000 рублей в месяц и примерно 8000 рублей в день. Но не ожидал, что после остановки тарификация все равно будет такой ощутимой.

В итоге я просто удалил абсолютно все ресурсы, чтобы перестать платить за неиспользование.

Главный вывод для себя сделал такой - Яндекс Облако отлично подходит, чтобы познакомиться с промышленными инструментами и понять, как они работают в реальной инфраструктуре.

Но по ощущениям эти сервисы больше рассчитаны на коммерческие проекты и большие компании, чем на небольшие стартапы или учебные эксперименты.

Я понимал это и до начала обучения.  Просто не думал, что разрыв будет настолько большим.

Облака это удобно, мощно и перспективно. Но если учиться за свой счет, лучше заранее планировать не только архитектуру, но и бюджет.

Облака не бюджетные лошадки | Сетка — социальная сеть от hh.ru