Введение
Статистический тест
В статистике тест Вальда (названный в честь Абрахама Вальда) оценивает ограничения на статистические параметры на основе взвешенного расстояния между несвязанной оценкой и ее гипотетическим значением при нулевой гипотезе, где вес представляет собой точность оценки. Интуитивно, чем больше это взвешенное расстояние, тем менее вероятно, что ограничение верно. Хотя распределения теста Вальда для конечных выборок обычно неизвестны, при нулевой гипотезе он имеет асимптотическое χ2-распределение, что можно использовать для определения статистической значимости. Вместе с тестом множителей Лагранжа и тестом отношения правдоподобия, тест Вальда является одним из трех классических подходов к проверке гипотез. Преимущество теста Вальда перед двумя другими заключается в том, что он требует только оценки несвязанной модели, что снижает вычислительную нагрузку по сравнению с тестом отношения правдоподобия. Однако основным недостатком является то, что (в конечных выборках) он не инвариантен к изменениям в представлении нулевой гипотезы; другими словами, алгебраически эквивалентные выражения нелинейных ограничений параметров могут приводить к различным значениям тестовой статистики. Это происходит потому, что статистика Вальда выводится из разложения в ряд Тейлора, и различные способы записи эквивалентных нелинейных выражений приводят к существенным различиям в соответствующих коэффициентах Тейлора. Другая аномалия, известная как эффект Хоука — Доннера, может возникать в биномиальных моделях, когда оцениваемый (несвязанный) параметр близок к границе пространства параметров — например, когда подобранная вероятность очень близка к нулю или единице, что приводит к тому, что тест Вальда перестает монотонно возрастать с увеличением расстояния между несвязанным и связанным параметрами.
In statistics, the Wald test (named after Abraham Wald) assesses constraints on statistical parameters based on the weighted distance between the unrestricted estimate and its hypothesized value under the null hypothesis, where the weight is the precision of the estimate. Intuitively, the larger this weighted distance, the less likely it is that the constraint is true. While the finite sample distributions of Wald tests are generally unknown, it has an asymptotic χ2 distribution under the null hypothesis, a fact that can be used to determine statistical significance. Together with the Lagrange multiplier test and the likelihood ratio test, the Wald test is one of three classical approaches to hypothesis testing. An advantage of the Wald test over the other two is that it only requires the estimation of the unrestricted model, which lowers the computational burden as compared to the likelihood ratio test. However, a major disadvantage is that (in finite samples) it is not invariant to changes in the representation of the null hypothesis; in other words, algebraically equivalent expressions of non linear parameter restriction can lead to different values of the test statistic. That is because the Wald statistic is derived from a Taylor expansion, and different ways of writing equivalent nonlinear expressions lead to nontrivial differences in the corresponding Taylor coefficients. Another aberration, known as the Hauck–Donner effect, can occur in binomial models when the estimated (unconstrained) parameter is close to the boundary of the parameter space—for instance a fitted probability being extremely close to zero or one—which results in the Wald test no longer monotonically increasing in the distance between the unconstrained and constrained parameter.
Математические детали
В рамках теста Вальда, оценка, найденная как аргумент, максимизирующий неограниченную функцию правдоподобия, сравнивается с гипотетическим значением. В частности, квадрат разности взвешивается кривизной функции логарифмического правдоподобия.
Неизменность в отношении повторных параметров
Тот факт, что используется приближение дисперсии, имеет недостаток, заключающийся в том, что статистика Вальда не инвариантна к нелинейному преобразованию или репараметризации гипотезы: она может давать разные ответы на один и тот же вопрос в зависимости от формулировки вопроса.