Вы рандомизируете по device_id, но метрика — доля пользователей, совершивших покупку за неделю, считается на уровне аккаунта user_id (часть пользователей имеет два устройства). Что корректнее?

AРандомизировать на уровне user_id или учётной записи, чтобы один человек не оказался в обоих вариантах через разные устройства.
BОставить рандомизацию по device_id, а потом просто суммировать покупки в разрезе user_id при подсчёте итоговой метрики на аккаунт.
CРандомизировать по session_id, потому что сессия ближе к моменту покупки и метрика будет точнее отражать поведение в варианте.
DРандомизировать по типу устройства (мобильное или десктоп), чтобы распределение пользователей между вариантами было сбалансированным.
Правильный ответ. Если у одного user_id несколько устройств, рандомизация по устройству ведёт к смешению вариантов внутри пользователя.

Разбор

Пользователь с двумя устройствами может одновременно попасть и в тестовую, и в контрольную группу, что размывает наблюдаемый эффект. Это особенно плохо для метрик, которые считаются на уровне аккаунта за период наблюдения. В таких задачах единицу рандомизации выбирают на уровне user_id или другой устойчивой учётной записи. Так каждый пользователь получает один и тот же вариант на всех своих устройствах.

Можно заниматься бесплатно

Готовим вопросы…

Три вопроса по теме этой страницы, с объяснениями.

Тренировать A/B в браузере

Ещё вопросы по теме «Дизайн эксперимента и рандомизация»