Oracle ещё не списали, а Lakehouse уже назначили спасителем
Data Vault 2.0 наведёт порядок, Data Mesh раздаст ответственность. Осталось понять, почему кредитный портфель на отчётную дату опять не сходится.
Классический DWH теперь legacy, PL/SQL — тех. долг, ночные ETL — пережиток прошлого. В тренде CDC, Spark, Iceberg и стриминг.
Звучит красиво. Особенно пока не дошли до бизнес-логики.
А там всё по классике: джойны размножают строки, историчность живёт своей жизнью, в витрине лежит case when на три экрана, а автор алгоритма давно уволился. ТЗ, разумеется, никто не видел.
Ирония в том, что переезд с Oracle на Lakehouse не лечит кривую модель данных. Он просто позволяет масштабировать её на новом стеке.
Можно распилить монолит, переписать пайплайны, внедрить Data Vault 2.0 и настроить оркестрацию. Но если один показатель в трёх витринах считается по-разному, проблема явно не в недостатке Parquet.
Хотя и защищать legacy до последнего merge — сомнительная стратегия. Старые DWH тоже далеко не образец архитектурной чистоты.
Похоже, мы подошли к моменту, когда архитектура меняется быстрее, чем успевают разобраться с предыдущей.
Коллеги по цеху, предлагаю немного пообсуждать это)
Lakehouse и Data Vault 2.0 — действительно следующий этап зрелости банковских DWH или мы просто научились переезжать с одного тех. долга на другой, не теряя бюджета?
Интересно мнение тех, кто сам проектирует слои, разбирает ETL и ищет потерянные миллионы на сверках