В A/B тесте для конверсии вы получили p-value = 0.03 при проверке H0 об отсутствии разницы между группами. Какая интерпретация корректна?

AВероятность получить такие же или более экстремальные данные при условии истинности H0
BАпостериорная вероятность того, что H0 верна и реальной разницы между группами нет
CВероятность того, что вариант B действительно лучше варианта A по целевой метрике
DРазмер наблюдаемого эффекта между группами, выраженный в процентах от базы сравнения
Правильный ответ. p-value оценивает совместимость данных с H0, а не вероятность истинности самой H0.

Разбор

p-value вычисляется при предположении, что H0 верна, и показывает, насколько необычны наблюдаемые данные в этом случае. Он не отвечает на вопрос, насколько вероятна сама H0, и не говорит, насколько велик эффект. Для решения обычно сравнивают p-value с заранее выбранным уровнем значимости alpha.

Можно заниматься бесплатно

Готовим вопросы…

Три вопроса по теме этой страницы, с объяснениями.

Тренировать A/B в браузере

Ещё вопросы по теме «Проверка гипотез и доверительные интервалы»