Ошибки аналитика. Часть 2: как ошибаться реже
В первой части мы говорили: ошибка не отменяет вашу компетентность и часто показывает слабое место в процессе. Теперь о том, как извлечь из неё опыт и замечать проблемы до отправки результата.
1. Делитесь ошибками с командой
После ошибки хочется всё исправить и забыть. Понимаю это желание, но в таком случае коллеги могут наступить на те же грабли. Поэтому стоит рассказать о своём факапе на встрече команды или оставить разбор в базе знаний: что произошло, почему и как заметить это раньше.
Однажды я считал выручку и округлил значения, чтобы убрать лишние знаки после запятой. При проверке перед отправкой отчёта заметил: итоговая сумма снизилась почти на 20 %. В моменте было тревожно.
Я разобрался в причине и рассказал команде. Оказалось, многие могли бы сделать так же. Обсудили, что конкретно проверять в подобных расчётах. Так моя ошибка стала полезным опытом для коллег.
Такой опыт сложно получить на курсах. Чтобы он не забылся, закрепите его в проверке.
2. Сделайте технические проверки частью работы
Многие технические проверки можно поручить ИИ: найти дубли и пропуски, проверить джойны, сравнить суммы. Но важно посмотреть, что агент действительно проверил и с каким результатом. Закрепите эти требования в системном промпте. Проверяйте результат сами или поручите другому агенту проверить данные и расчёт.
Если работаете без ИИ, используйте этот набор как список для самопроверки. Здесь три этапа.
До расчёта: изучите данные. Что означает строка, какие значения должны быть уникальными? Есть ли дубли, пропуски, все ли даты на месте? В эксперименте проверьте распределение по группам и как часто воздействие попадало в контроль.
По ходу работы: проверяйте преобразования. После джойнов, фильтрации и группировки сравнивайте число строк, уникальных объектов и контрольные суммы. Добавили к заказам категорию товара - сумма заказов не должна вырасти. Так проще найти место ошибки.
После расчёта: сверьте итог. Сравните суммы и число уникальных объектов с отдельным простым расчётом по исходным данным с теми же датами и фильтрами. Проверьте результат на пропуски и повторы. Это проверка всей цепочки.
Когда расчёт становится витриной или регулярным отчётом, проверки должны запускаться при каждом обновлении. Сегодня всё сошлось, а завтра задержится загрузка или появятся дубли. Здесь нужны оповещения тому, кто отвечает за расчёт.
Но технические проверки работают в рамках заданных правил. Если неверно понята логика показателя, все они могут успешно пройти.
3. Проверяйте не только цифры, но и бизнес-логику
Представьте: вы посчитали план и получили 100 млн рублей. Данные свежие, дублей нет, суммы сходятся с источником. Проверки прошли.
Только в источнике суммы хранились в копейках, а в отчёте вы подписали их как рубли. Реальный план - 1 млн. Цифру завысили в сто раз!
Без проверки единиц измерения оповещения могут промолчать. Спросите себя: “А это вообще реально? Какие у нас цели? Сколько было в прошлом месяце? Откуда такой рост?”
Я считаю, что аналитик должен разбираться в продукте, помогать бизнесу принимать решения и вместе с командой отвечать за результат. Тогда странную цифру проще заметить.
Другой пример: по расчёту заказ из Москвы в Петербург доезжает за два часа вместо двух дней. Мы вообще можем доставлять за такое время? Что изменилось в процессе?
Когда на глаз оценить результат сложно, смотрите на связанные метрики. Если сроки доставки выросли, стало ли больше обращений в поддержку? Не сократилось ли число курьеров на линии? Не выросла ли нагрузка?
Особенно полезны метрики из других источников. Если изменилась только ваша цифра, а в связанных показателях и самом процессе всё по-прежнему, стоит поискать баг в расчёте.
Выводы
Если ошибка уже случилась, извлеките из неё пользу: поделитесь опытом, добавьте проверки и сверяйте цифры с тем, что происходит в бизнесе. Какая ваша ошибка превратилась в проверку или правило для команды? #аналитика #аналитикаданных #ошибкианалитика #карьерааналитикаё