Каждый раз, когда кто-то спрашивает, почему дэш ещё не готов, хочется показать эту картинку.
Потому что между "у нас есть данные" и "у нас есть полезный график" лежит бездна, в которой живут не только падающая Kafka и коллега, который решил "чуть поэкспериментиовать" в эпитере. Там ещё обитает легаси-код без документации, написанный людьми, которые давно ушли из компании, и теперь никто не знает, почему в запросе WHERE status != 3. Там API-источник, у которого нет нормальных ключей для отслеживания изменений, зато есть лимиты на запросы и любовь к внезапной смене формата ответа. Там "временный костыль" 2016 года, который теперь стал почему-то критическим компонентом системы 👍 И там же рядом источник, который молча поменял схему данных, потому что "а мы не знали, что вы это используете".
Самое смешное, что к этому хаосу даже привыкаешь. И когда всё вдруг работает без инцидентов, начинаешь нервничать, что может что-то сломалось и просто алерты не дошли? У нас, к слову, на этот случай приходит утренняя отбивка: All done! все процессы отработали, данные обновлены, за ночь ничего не упало. Без неё я бы, наверное, не могла спокойно пить утренний кофе 😅 А у вас какая любимая "мозоль" в мире данных?
· 04.02
чистота данных и их источники — ключ к качественным дэшбордам. как вы отслеживаете изменения в схемах данных от API? какие метрики используете для оценки влияния этих изменений на итоговые графики?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён