Введение

Метод оценки распределения
Важностная выборка — это метод Монте-Карло для оценки свойств определенного распределения, используя только образцы, сгенерированные из другого распределения, отличного от интересующего. Введение этого метода в статистику обычно связывают со статьей Тёна Клока и Германа К. ван Дейка, опубликованной в 1978 году, однако его предшественники встречаются в статистической физике уже с 1949 года. Важностная выборка также связана с зонтичной выборкой в вычислительной физике. В зависимости от области применения, термин может относиться к процессу выборки из альтернативного распределения, процессу статистического вывода или к обоим этим процессам.

Применение к вероятностному выводу

Такие методы часто используются для оценки апостериорных плотностей или математических ожиданий в задачах оценки состояния и/или параметров в вероятностных моделях, которые слишком сложны для аналитического решения. Примеры включают в себя байесовские сети и вариационные автокодировщики с важностью взвешивания.

Обычные методы смещения

Хотя существует множество методов смещения, следующие два метода наиболее широко применяются в задачах важностной выборки.

Перевод

Другой простой и эффективный метод смещения использует сдвиг функции плотности (и, следовательно, случайной величины) для размещения большей части её вероятностной массы в области редких событий. Сдвиг не подвержен влиянию размерности и успешно применяется в ряде приложений, связанных с моделированием систем цифровой связи. Он часто обеспечивает более высокую эффективность моделирования, чем масштабирование. При смещении посредством сдвига плотность моделирования задается выражением

где – величина сдвига, которую необходимо выбрать для минимизации дисперсии оценки методом важности.

Оценка важности выборки

Для определения эффективных методов важностной выборки полезно уметь количественно оценить выигрыш во времени выполнения, достигаемый благодаря использованию этого подхода. Обычно используемой мерой производительности является , которую можно интерпретировать как фактор ускорения, с которым оценка важностной выборки достигает той же точности, что и оценка Монте-Карло. Этот фактор необходимо вычислять эмпирически, поскольку аналитическое вычисление дисперсий оценок маловероятно, когда их математическое ожидание не поддается аналитическому определению. Другими полезными понятиями для оценки эффективности оценки важностной выборки являются границы дисперсии и понятие асимптотической эффективности. Связанной с этим мерой является так называемый эффективный размер выборки (ЭРВ).

Функция расхода на отклонение

Разброс — не единственная возможная функция потерь для моделирования, и другие функции потерь, такие как среднее абсолютное отклонение, используются в различных статистических приложениях. Тем не менее, дисперсия является основной функцией потерь, рассматриваемой в литературе, вероятно, из-за использования дисперсий при построении доверительных интервалов и в оценке производительности. Связанной проблемой является то, что отношение переоценивает выигрыш во времени выполнения, достигаемый благодаря важностной выборке, поскольку не учитывает дополнительное время вычислений, необходимое для вычисления весовой функции. Поэтому некоторые исследователи оценивают чистое улучшение времени выполнения различными способами. Вероятно, более существенным недостатком важностной выборки является время, затрачиваемое на разработку и программирование метода, а также на аналитическое определение необходимой весовой функции.

Многократное и адаптивное отбор проб

Когда для получения выборок совместно используются различные распределения предложений, можно применять различные корректные функции взвешивания (например, см.). В адаптивной настройке распределения предложений , и обновляются на каждой итерации алгоритма адаптивной важностной выборки. Следовательно, поскольку используется совокупность плотностей предложений, можно использовать несколько подходящих комбинаций схем выборки и взвешивания.