С чем сравнивать метрики, если нет единого стандарта?

Кажется, это один из вопросов, с которым рано или поздно сталкивается практически любая команда, работающая с образовательным продуктом: мы получили определённую цифру, но как понять, хорошая она или нет? Например, Retention составляет 40%. Это хороший результат? Есть повод порадоваться или, наоборот, стоит пересмотреть продуктовую стратегию?

Первая мысль: найти отраслевой бенчмарк, посмотреть на показатели других компаний и сравнить со своими. Логика понятная - хочется иметь точку отсчёта, которая поможет оценить реальное положение дел.

Но в EdTech с этим есть определённая сложность. Образовательные продукты настолько отличаются друг от друга по формату, аудитории, продолжительности обучения и модели монетизации, что универсальные средние показатели далеко не всегда дают полезную информацию.

Например, Retention языкового приложения, которым человек пользуется самостоятельно в свободное время, и Retention корпоративной образовательной программы, прохождение которой предусмотрено рабочими процессами, совершенно разные истории.

То же самое касается Completion Rate. Завершение короткого бесплатного курса и прохождение годовой платной программы с сертификацией отражают разные модели поведения и мотивации студентов.

Формально мы сравниваем образовательные продукты. По факту - совершенно разные условия, в которых эти продукты существуют. Поэтому можно немного изменить сам подход к поиску бенчмарков.

На что можно ориентироваться вместо одной усреднённой цифры?

➡️ 1. На собственную динамику. Один из наиболее понятных ориентиров — история самого продукта. Как меняется Retention от месяца к месяцу? Что происходит с Completion Rate после изменения программы? Как повлияли новые механики вовлечения на активность студентов? Важно учитывать сезонность и сопоставимость периодов, но собственная динамика часто позволяет увидеть гораздо больше, чем случайная цифра из отраслевого исследования.

➡️ 2. На продукты с похожей бизнес-моделью и форматом обучения. Если мы хотим сравнить свои показатели с рынком, желательно искать максимально близкие по характеристикам продукты: B2C или B2B, подписка или разовая оплата, самостоятельное обучение или занятия с преподавателем, короткие курсы или долгосрочные программы. Чем ближе условия сравнения, тем больше смысла в полученных выводах.

➡️ 3. На несколько источников, а не на один красивый бенчмарк. В открытых исследованиях можно встретить очень привлекательные средние показатели. Но всегда полезно разобраться, кто проводил исследование, какие компании участвовали, за какой период собирались данные и как именно рассчитывалась метрика. Без понимания методологии даже достоверная цифра может оказаться совершенно неприменимой к конкретному продукту.

➡️ 4. На связь метрик с бизнес-результатами. Ещё один момент, который иногда упускают: не каждая метрика должна расти сама по себе. Например, увеличение Completion Rate — хороший сигнал, но важно понимать, как оно связано с удовлетворённостью студентов, повторными покупками, продлением подписки или другими целями бизнеса. В конечном счёте показатели нужны не для того, чтобы просто выглядеть лучше отраслевого среднего, а чтобы помогать принимать решения.

Мне кажется, отсутствие единого рыночного стандарта в EdTech - не столько недостаток, сколько повод внимательнее относиться к контексту.

Ведь цифра сама по себе мало о чём говорит. Гораздо интереснее понять, что за ней стоит, с чем её действительно можно сравнивать и какие решения на её основе имеет смысл принимать.

#EdTech #Benchmarking #Metrics

С чем сравнивать метрики, если нет единого стандарта? | Сетка — социальная сеть от hh.ru