В Parquet добавили поле. Что менять в загрузке?
Сегодня хочу разобрать частую ситуацию, когда бизнесу понадобилось начать сравнивать заказы из приложения и сайта. В новых Parquet-файлах появилось поле sales_channel, теперь его нужно довести до таблицы для аналитиков.
Добавить колонку и перезапустить загрузку не всегда достаточно. Нужно ещё проверить, передаёт ли загрузчик новое поле, как читаются старые файлы и что делать со значениями за прошлые периоды.
В карточках разобрал PostgreSQL и Hive. Где меняем схему таблицы, где обновляем запись данных и почему ALTER TABLE сам по себе не заполнит историю.
Пригодится и для DE-собеседований: прежде чем предлагать команду, уточните формат файлов, способ загрузки и требования к истории.
🚀 Сохраняйте в шпоры.
@kuzmin_dmitry91