В A/B-тесте новый онбординг включается только после события signup_complete. Часть посетителей уходит до регистрации. Как корректнее считать activation rate для сравнения вариантов?

AАктивированные / все посетители лендинга, включая тех, кто ушёл до регистрации
BАктивированные / все установки приложения за период эксперимента
CАктивированные / пользователи с событием signup_complete, которым реально назначен вариант
DАктивированные / активированные, чтобы сравнить «качество» активации между вариантами
Правильный ответ. Для честного сравнения activation rate знаменатель должен соответствовать моменту назначения варианта в эксперименте.

Разбор

Если вариант назначается после события signup_complete, сравнивать нужно только тех, кто дошёл до момента назначения. Иначе метрика смешает эффект онбординга и различия в верхней части воронки. Деление на всех посетителей или установки размоет эффект и может дать ложные выводы. Корректный знаменатель — аудитория, для которой тест реально применим, то есть назначенные пользователи.

Можно заниматься бесплатно

Готовим вопросы…

Три вопроса по теме этой страницы, с объяснениями.

Тренировать продуктовую аналитику в браузере

Ещё вопросы по теме «Рост, активация и онбординг»