Completion Rate — метрика-убийца. Ошибка выжившего в EdTech

Как продакт-методолог, я часто вижу, как компании гонятся за красивыми цифрами Completion Rate (CR) — процентом досматриваемости курса. 90%, 95%! Вау! «Мы создали гениальный продукт!» Но для меня это сигнал: мы смотрим на ‘мясо’ в ‘ошибке выжившего’ ​В чем суть ошибки?

​Мы радуемся тем, кто досмотрел. Это блестящие, сияющие графики. Но мы полностью игнорируем тех, кто отвалился на 2-й или 3-й неделе. Это классика: Абрахам Вальд и самолеты с дырками не в тех местах. Мы пытаемся усилить броню там, где ее и так не пробило, а нужно смотреть на те места, из-за которых самолет упал.

​Почему Completion Rate врет: ​Метрика лояльности, а не качества: Высокий CR часто показывает не то, что вы круто учите, а то, что ваша аудитория очень мотивирована. Они дойдут даже если вы будете читать учебник вслух. Вы «усиливаете броню» у «выживших» по природе.

​Смерть LTV: Тех, кто отвалился, мы теряем. Теряем их деньги на допродажах, теряем их Retention. И мы не знаем, почему они ушли, потому что смотрим только на ‘выживших’.

​Чтобы реально растить LTV, вы должны смотреть не на средний CR, а на когортный Churn Rate (отток) и User Journey в разрезе вовлеченности. ​Что делать: ​Изучайте "убитых": Фокус на точках оттока. Где пользователи проводят меньше времени? На каком задании они ‘ломаются’? ​Баланс польза/фан: Докручивайте методологию и геймификацию именно в этих точках, но ни в коем случае не прячьте кнопку "отписаться" - завалят тех поддержку...

​Двойной клиент: Не забывайте про родителей K-12. Если ребенок отвалился, родитель больше не платит.

​Вывод: Метрики — это инструмент, а не цель. Чтобы строить прибыльный продукт, нужно смотреть на ‘дырки’ в данных, а не на блестящие графики ‘выживших’. ​А вы на какие метрики вовлеченности смотрите в первую очередь? Пишите в комменты 👇

Completion Rate — метрика-убийца. Ошибка выжившего в EdTech | Сетка — социальная сеть от hh.ru