В A/B тесте всего по 25 пользователей на группу, конверсия 0/25 в контроле и 2/25 в варианте. Какой подход к проверке разницы долей обычно более аккуратен при такой малой выборке?

AТочный биномиальный тест: он учитывает дискретность данных и работает корректно при малых n
Bz-test для разницы долей: подходит и для малых выборок, нормальное приближение здесь надёжно
CРешать по графику долей без статистики: разница 2/25 против 0/25 визуально достаточно очевидна
DКорреляция Пирсона между группой и фактом покупки: показатель силы связи отвечает на тот же вопрос
Правильный ответ. При малых n нормальное приближение грубое, поэтому полезен точный биномиальный тест.

Разбор

При малых выборках, особенно при нулевых успехах в одной группе, нормальное приближение z-test даёт неточные p-value. Точный биномиальный тест опирается на дискретное распределение и корректно работает при таких данных. Корреляция Пирсона тут не отвечает на вопрос про разницу долей. Решение «по графику» без статистики на 25 наблюдениях легко принять шум за эффект.

Можно заниматься бесплатно

Готовим вопросы…

Три вопроса по теме этой страницы, с объяснениями.

Тренировать статистику в браузере

Ещё вопросы по теме «Тесты для долей»