В Parquet добавили поле. Что менять в загрузке?

Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта. В новых Parquet-файлах появилось поле sales_channel, теперь его нужно довести до таблицы для аналитиков.

Добавить колонку и перезапустить загрузку не всегда достаточно. Нужно ещё проверить, передаёт ли загрузчик новое поле, как читаются старые файлы и что делать со значениями за прошлые периоды.

В карточках разобрал PostgreSQL и Hive. Где меняем схему таблицы, где обновляем запись данных и почему ALTER TABLE сам по себе не заполнит историю.

Пригодится и для DE-собеседований: прежде чем предлагать команду, уточните формат файлов, способ загрузки и требования к истории.

🚀 Сохраняйте в шпоры.

@kuzmin_dmitry91

В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта | Сетка — социальная сеть от hh.ru В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта | Сетка — социальная сеть от hh.ru
В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта | Сетка — социальная сеть от hh.ru В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта | Сетка — социальная сеть от hh.ru В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта | Сетка — социальная сеть от hh.ru В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта | Сетка — социальная сеть от hh.ru В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта | Сетка — социальная сеть от hh.ru