Ошибки аналитика. Часть 2: как ошибаться реже

В первой части мы говорили: ошибка не отменяет вашу компетентность и часто показывает слабое место в процессе. Теперь о том, как извлечь из неё опыт и замечать проблемы до отправки результата.

1. Делитесь ошибками с командой

После ошибки хочется всё исправить и забыть. Понимаю это желание, но в таком случае коллеги могут наступить на те же грабли. Поэтому стоит рассказать о своём факапе на встрече команды или оставить разбор в базе знаний: что произошло, почему и как заметить это раньше.

Однажды я считал выручку и округлил значения, чтобы убрать лишние знаки после запятой. При проверке перед отправкой отчёта заметил: итоговая сумма снизилась почти на 20 %. В моменте было тревожно.

Я разобрался в причине и рассказал команде. Оказалось, многие могли бы сделать так же. Обсудили, что конкретно проверять в подобных расчётах. Так моя ошибка стала полезным опытом для коллег.

Такой опыт сложно получить на курсах. Чтобы он не забылся, закрепите его в проверке.

2. Сделайте технические проверки частью работы

Многие технические проверки можно поручить ИИ: найти дубли и пропуски, проверить джойны, сравнить суммы. Но важно посмотреть, что агент действительно проверил и с каким результатом. Закрепите эти требования в системном промпте. Проверяйте результат сами или поручите другому агенту проверить данные и расчёт.

Если работаете без ИИ, используйте этот набор как список для самопроверки. Здесь три этапа.

До расчёта: изучите данные. Что означает строка, какие значения должны быть уникальными? Есть ли дубли, пропуски, все ли даты на месте? В эксперименте проверьте распределение по группам и как часто воздействие попадало в контроль.

По ходу работы: проверяйте преобразования. После джойнов, фильтрации и группировки сравнивайте число строк, уникальных объектов и контрольные суммы. Добавили к заказам категорию товара - сумма заказов не должна вырасти. Так проще найти место ошибки.

После расчёта: сверьте итог. Сравните суммы и число уникальных объектов с отдельным простым расчётом по исходным данным с теми же датами и фильтрами. Проверьте результат на пропуски и повторы. Это проверка всей цепочки.

Когда расчёт становится витриной или регулярным отчётом, проверки должны запускаться при каждом обновлении. Сегодня всё сошлось, а завтра задержится загрузка или появятся дубли. Здесь нужны оповещения тому, кто отвечает за расчёт.

Но технические проверки работают в рамках заданных правил. Если неверно понята логика показателя, все они могут успешно пройти.

3. Проверяйте не только цифры, но и бизнес-логику

Представьте: вы посчитали план и получили 100 млн рублей. Данные свежие, дублей нет, суммы сходятся с источником. Проверки прошли.

Только в источнике суммы хранились в копейках, а в отчёте вы подписали их как рубли. Реальный план - 1 млн. Цифру завысили в сто раз!

Без проверки единиц измерения оповещения могут промолчать. Спросите себя: “А это вообще реально? Какие у нас цели? Сколько было в прошлом месяце? Откуда такой рост?”

Я считаю, что аналитик должен разбираться в продукте, помогать бизнесу принимать решения и вместе с командой отвечать за результат. Тогда странную цифру проще заметить.

Другой пример: по расчёту заказ из Москвы в Петербург доезжает за два часа вместо двух дней. Мы вообще можем доставлять за такое время? Что изменилось в процессе?

Когда на глаз оценить результат сложно, смотрите на связанные метрики. Если сроки доставки выросли, стало ли больше обращений в поддержку? Не сократилось ли число курьеров на линии? Не выросла ли нагрузка?

Особенно полезны метрики из других источников. Если изменилась только ваша цифра, а в связанных показателях и самом процессе всё по-прежнему, стоит поискать баг в расчёте.

Выводы

Если ошибка уже случилась, извлеките из неё пользу: поделитесь опытом, добавьте проверки и сверяйте цифры с тем, что происходит в бизнесе. Какая ваша ошибка превратилась в проверку или правило для команды? #аналитика #аналитикаданных #ошибкианалитика #карьерааналитикаё

Ошибки аналитика. Часть 2: как ошибаться реже | Сетка — социальная сеть от hh.ru