С чем сравнивать метрики, если нет единого стандарта?
Кажется, это один из вопросов, с которым рано или поздно сталкивается практически любая команда, работающая с образовательным продуктом: мы получили определённую цифру, но как понять, хорошая она или нет? Например, Retention составляет 40%. Это хороший результат? Есть повод порадоваться или, наоборот, стоит пересмотреть продуктовую стратегию?
Первая мысль: найти отраслевой бенчмарк, посмотреть на показатели других компаний и сравнить со своими. Логика понятная - хочется иметь точку отсчёта, которая поможет оценить реальное положение дел.
Но в EdTech с этим есть определённая сложность. Образовательные продукты настолько отличаются друг от друга по формату, аудитории, продолжительности обучения и модели монетизации, что универсальные средние показатели далеко не всегда дают полезную информацию.
Например, Retention языкового приложения, которым человек пользуется самостоятельно в свободное время, и Retention корпоративной образовательной программы, прохождение которой предусмотрено рабочими процессами, совершенно разные истории.
То же самое касается Completion Rate. Завершение короткого бесплатного курса и прохождение годовой платной программы с сертификацией отражают разные модели поведения и мотивации студентов.
Формально мы сравниваем образовательные продукты. По факту - совершенно разные условия, в которых эти продукты существуют. Поэтому можно немного изменить сам подход к поиску бенчмарков.
На что можно ориентироваться вместо одной усреднённой цифры?
➡️ 1. На собственную динамику. Один из наиболее понятных ориентиров — история самого продукта. Как меняется Retention от месяца к месяцу? Что происходит с Completion Rate после изменения программы? Как повлияли новые механики вовлечения на активность студентов? Важно учитывать сезонность и сопоставимость периодов, но собственная динамика часто позволяет увидеть гораздо больше, чем случайная цифра из отраслевого исследования.
➡️ 2. На продукты с похожей бизнес-моделью и форматом обучения. Если мы хотим сравнить свои показатели с рынком, желательно искать максимально близкие по характеристикам продукты: B2C или B2B, подписка или разовая оплата, самостоятельное обучение или занятия с преподавателем, короткие курсы или долгосрочные программы. Чем ближе условия сравнения, тем больше смысла в полученных выводах.
➡️ 3. На несколько источников, а не на один красивый бенчмарк. В открытых исследованиях можно встретить очень привлекательные средние показатели. Но всегда полезно разобраться, кто проводил исследование, какие компании участвовали, за какой период собирались данные и как именно рассчитывалась метрика. Без понимания методологии даже достоверная цифра может оказаться совершенно неприменимой к конкретному продукту.
➡️ 4. На связь метрик с бизнес-результатами. Ещё один момент, который иногда упускают: не каждая метрика должна расти сама по себе. Например, увеличение Completion Rate — хороший сигнал, но важно понимать, как оно связано с удовлетворённостью студентов, повторными покупками, продлением подписки или другими целями бизнеса. В конечном счёте показатели нужны не для того, чтобы просто выглядеть лучше отраслевого среднего, а чтобы помогать принимать решения.
Мне кажется, отсутствие единого рыночного стандарта в EdTech - не столько недостаток, сколько повод внимательнее относиться к контексту.
Ведь цифра сама по себе мало о чём говорит. Гораздо интереснее понять, что за ней стоит, с чем её действительно можно сравнивать и какие решения на её основе имеет смысл принимать.