Почему в bootstrap обычно пересэмплируют наблюдения именно с возвращением, а не без?

AЧтобы каждое наблюдение попадало в каждую реплику ровно один раз и не нарушался состав выборки
BЧтобы полностью разрушить любые зависимости между наблюдениями и сделать данные независимыми
CЧтобы имитировать повторные выборки из неизвестной популяции, считая выборку её приближением
DЧтобы гарантированно получить меньшую дисперсию статистики, чем у исходной выборочной оценки
Правильный ответ. Bootstrap рассматривает выборку как приближение популяции и делает пересэмплирование с возвращением.

Разбор

С возвращением одно и то же наблюдение может появляться в реплике несколько раз, а какие-то наблюдения не появятся вовсе, что и создаёт вариативность статистики. Это похоже на идею повторных выборок из большой популяции, которую мы не видим напрямую. Типичная ошибка — пересэмплировать без возвращения и получать почти ту же выборку, из-за чего неопределённость будет занижена. Гарантированного снижения дисперсии bootstrap не даёт — он только оценивает её честнее.

Можно заниматься бесплатно

Готовим вопросы…

Три вопроса по теме этой страницы, с объяснениями.

Тренировать статистику в браузере

Ещё вопросы по теме «Бутстреп и перестановочные тесты»