В A/B тесте всего по 25 пользователей на группу, конверсия 0/25 в контроле и 2/25 в варианте. Какой подход к проверке разницы долей обычно более аккуратен при такой малой выборке?
AТочный биномиальный тест: он учитывает дискретность данных и работает корректно при малых
nB
z-test для разницы долей: подходит и для малых выборок, нормальное приближение здесь надёжноCРешать по графику долей без статистики: разница
2/25 против 0/25 визуально достаточно очевиднаDКорреляция Пирсона между группой и фактом покупки: показатель силы связи отвечает на тот же вопрос
Правильный ответ. При малых n нормальное приближение грубое, поэтому полезен точный биномиальный тест.
Разбор
При малых выборках, особенно при нулевых успехах в одной группе, нормальное приближение z-test даёт неточные p-value. Точный биномиальный тест опирается на дискретное распределение и корректно работает при таких данных. Корреляция Пирсона тут не отвечает на вопрос про разницу долей. Решение «по графику» без статистики на 25 наблюдениях легко принять шум за эффект.
Можно заниматься бесплатно
Готовим вопросы…
Три вопроса по теме этой страницы, с объяснениями.
Ещё вопросы по теме «Тесты для долей»
- Команда считает конверсию из показа в клик: 80 кликов на 1000 показов. Как корректнее всего описать эту величину как долю?
- `конверсия` выросла с 5% до 6%. Как корректно назвать абсолютное изменение?
- Если `n` увеличили в 4 раза при том же `p`, как примерно изменится стандартная ошибка доли `SE = sqrt(p*(1-p)/n)`?
- Когда двухвыборочный `z-test` для сравнения долей обычно уместен?
- Вы считаете конверсию из визита в покупку на уровне пользователя. Что корректно считать `success` и что считать `trial` для расчёта доли?
- Все вопросы по «Тесты для долей» →