Вы сравнили метрику до изменения и после изменения и увидели рост. Какой риск чаще всего делает такой вывод о причинности ненадёжным?

AМетрика без изменения продукта меняться не может, поэтому любой рост после релиза доказывает причинный эффект изменения.
BВнешние факторы и сезонность могли сдвинуть метрику одновременно с релизом, поэтому рост не равен причинному эффекту.
CРост после релиза автоматически отвергает нулевую гипотезу и не требует контрольной группы для подтверждения причинности.
DСравнение до/после считается более надёжным, чем рандомизация, и обычно даёт более чистую оценку эффекта.
Правильный ответ. Сравнение до/после спутывается с внешними факторами: рост может быть вызван сезонностью или совпавшим внешним событием, а не самим релизом.

Разбор

Без контрольной группы у нас нет «второй вселенной», где релиза не было, поэтому мы не знаем, как метрика повела бы себя без изменения. Рост после релиза легко объясняется сезонностью, маркетинговой акцией, изменением трафика или другим внешним фактором, совпавшим по времени. Именно поэтому в A/B-тесте контрольная группа существует одновременно с тестовой, и обе подвергаются одним и тем же внешним влияниям. «До/после» без рандомизации — это слабый дизайн с высоким риском перепутать корреляцию с причинностью.

Можно заниматься бесплатно

Готовим вопросы…

Три вопроса по теме этой страницы, с объяснениями.

Тренировать A/B в браузере

Ещё вопросы по теме «Основы A/B-тестирования»