Критерий девиации информации (DIC) для выбора байесовских моделей
Deviance information criterion
Критерий девиации (DIC) – обобщение AIC для байесовского выбора моделей, полученных методом MCMC. Оценивает качество моделей, предпочитая с меньшим DIC.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Критерий информации об отклонениях (DIC) — это иерархическое обобщение информационного критерия Акаике (AIC). Он особенно полезен при решении задач выбора байесовских моделей, когда апостериорные распределения моделей получены с помощью моделирования методом Монте-Карло Марковских цепей (MCMC). DIC является асимптотическим приближением при увеличении размера выборки, как и AIC. Он применим только в случае, когда апостериорное распределение приблизительно многомерно нормально.
The deviance information criterion (DIC) is a hierarchical modeling generalization of the Akaike information criterion (AIC). It is particularly useful in Bayesian model selection problems where the posterior distributions of the models have been obtained by Markov chain Monte Carlo (MCMC) simulation. DIC is an asymptotic approximation as the sample size becomes large, like AIC. It is only valid when the posterior distribution is approximately multivariate normal.
Мотивация
Идея заключается в том, что моделям с меньшим DIC следует отдавать предпочтение перед моделями с большим DIC. Модели штрафуются как по значению , которое благоприятствует хорошему соответствию данным, так и (подобно AIC) по эффективному числу параметров. Поскольку уменьшается с увеличением числа параметров в модели, член компенсирует этот эффект, отдавая предпочтение моделям с меньшим числом параметров. Преимущество DIC перед другими критериями при байесовском выборе модели состоит в том, что DIC легко вычисляется на основе выборок, полученных в результате моделирования методом Монте-Карло Марковских цепей. AIC требует вычисления правдоподобия в точке его максимума по , что нелегко получить непосредственно из результатов моделирования MCMC. Однако для вычисления DIC достаточно вычислить как среднее значение по выборкам , а – как значение , рассчитанное в среднем по выборкам . Затем DIC напрямую вычисляется на основе этих приближений. Claeskens и Hjort (2008, гл. 3.5) показывают, что DIC асимптотически эквивалентен устойчивой к моделям версии AIC, основанной на естественном логарифме.
The idea is that models with smaller DIC should be preferred to models with larger DIC. Models are penalized both by the value of , which favors a good fit, but also (similar to AIC) by the effective number of parameters Since will decrease as the number of parameters in a model increases, the term compensates for this effect by favoring models with a smaller number of parameters. An advantage of DIC over other criteria in the case of Bayesian model selection is that the DIC is easily calculated from the samples generated by a Markov chain Monte Carlo simulation. AIC requires calculating the likelihood at its maximum over , which is not readily available from the MCMC simulation. But to calculate DIC, simply compute as the average of over the samples of , and as the value of evaluated at the average of the samples of Then the DIC follows directly from these approximations. Claeskens and Hjort (2008, Ch. 3.5) show that the DIC is large sample equivalent to the natural model robust version of the AIC.
Предположения
При выводе DIC предполагается, что указанное параметрическое семейство распределений вероятностей, генерирующих будущие наблюдения, включает в себя истинную модель. Это предположение не всегда выполняется, и поэтому желательно учитывать процедуры оценки моделей в таком случае. Кроме того, наблюдаемые данные используются как для построения апостериорного распределения, так и для оценки полученных моделей. Следовательно, DIC склонен выбирать переобученные модели.
In the derivation of DIC, it is assumed that the specified parametric family of probability distributions that generate future observations encompasses the true model. This assumption does not always hold, and it is desirable to consider model assessment procedures in that scenario. Also, the observed data are used both to construct the posterior distribution and to evaluate the estimated models. Therefore, DIC tends to select over fitted models.