Закон полной дисперсии: формула разложения дисперсии в теории вероятностей. Объясняет компоненты дисперсии, EVPVE и VHM, и их связь с условными вероятностями.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Теорема в теории вероятностей
В теории вероятностей закон полной дисперсии, или формула разложения дисперсии, или формулы условной дисперсии, или закон итерированных дисперсий, также известный как закон Евы, утверждает, что если и – случайные величины в одном и том же вероятностном пространстве, и дисперсия конечна, то
Theorem in probability theory
In probability theory, the law of total variance or variance decomposition formula or conditional variance formulas or law of iterated variances also known as Eve's law, states that if and are random variables on the same probability space, and the variance of is finite, then
На языке, возможно, более известном статистикам, чем теоретикам вероятности, эти два члена представляют собой "необъяснимую" и "объяснимую" составляющие дисперсии соответственно (см. доля необъясненной дисперсии, объясненная вариация). В актуарной науке, в частности в теории правдоподобия, первый компонент называется ожидаемым значением дисперсии процесса (EVPV), а второй – дисперсией гипотетических сред (VHM). Эти два компонента также являются источником названия "закон Евы", образованного от инициалов EV VE, обозначающих "ожидание дисперсии" и "дисперсию ожидания".
In language perhaps better known to statisticians than to probability theorists, the two terms are the "unexplained" and the "explained" components of the variance respectively (cf. fraction of variance unexplained, explained variation). In actuarial science, specifically credibility theory, the first component is called the expected value of the process variance (EVPV) and the second is called the variance of the hypothetical means (VHM). These two components are also the source of the term "Eve's law", from the initials EV VE for "expectation of variance" and "variance of expectation".
Пояснение
Чтобы понять формулу выше, нам нужно понять случайные переменные и . Эти переменные зависят от значения : для заданного , и являются постоянными величинами. По сути, мы используем возможные значения для группировки результатов, а затем вычисляем математические ожидания и дисперсии для каждой группы. "Необъяснённая" компонента – это просто среднее значение всех дисперсий внутри каждой группы. "Объяснённая" компонента – это дисперсия математических ожиданий, то есть она представляет собой часть дисперсии, которая объясняется изменением среднего значения для каждой группы. Для иллюстрации рассмотрим пример выставки собак (выбранный отрывок из Анализ дисперсии # Пример). Пусть случайная переменная соответствует весу собаки, а – породе. В этой ситуации разумно ожидать, что порода объясняет значительную часть дисперсии веса, поскольку существует большая разница в средних весах пород. Конечно, для каждой породы всё ещё существует некоторая дисперсия веса, которая учитывается в "необъяснённой" компоненте. Обратите внимание, что термин "объяснённая" на самом деле означает "объяснённая средними значениями". Если дисперсии для каждого фиксированного (например, для каждой породы в приведённом выше примере) сильно различаются, эти дисперсии всё равно объединяются в "необъяснённую" компоненту.
To understand the formula above, we need to comprehend the random variables and These variables depend on the value of : for a given , and are constant numbers. Essentially, we use the possible values of to group the outcomes and then compute the expected values and variances for each group. The "unexplained" component is simply the average of all the variances of within each group. The "explained" component is the variance of the expected values, i. e., it represents the part of the variance that is explained by the variation of the average value of for each group. For an illustration, consider the example of a dog show (a selected excerpt of Analysis of variance#Example). Let the random variable correspond to the dog weight and correspond to the breed. In this situation, it is reasonable to expect that the breed explains a major portion of the variance in weight since there is a big variance in the breeds' average weights. Of course, there is still some variance in weight for each breed, which is taken into account in the "unexplained" term. Note that the "explained" term actually means "explained by the averages." If variances for each fixed (e. g., for each breed in the example above) are very distinct, those variances are still combined in the "unexplained" term.
Пример 2
Предположим, что X — это бросок монеты с вероятностью выпадения орла, равной h. Предположим, что когда X равен 1, то Y извлекается из нормального распределения со средним μ₁ и стандартным отклонением σ₁, а когда X равен 0, то Y извлекается из нормального распределения со средним μ₀ и стандартным отклонением σ₀. Тогда первый, "необъяснимый" член в правой части вышеуказанной формулы — это средневзвешенное дисперсий σ₁² и σ₀², а второй, "объяснимый" член — это дисперсия распределения, которое выдает значение μ₁ с вероятностью h и значение μ₀ с вероятностью 1 − h.
Suppose X is a coin flip with the probability of heads being h. Suppose that when then Y is drawn from a normal distribution with mean and standard deviation , and that when then Y is drawn from normal distribution with mean and standard deviation Then the first, "unexplained" term on the right hand side of the above formula is the weighted average of the variances, , and the second, "explained" term is the variance of the distribution that gives with probability h and gives with probability 1 − h.
Общее распределение дисперсии, применимое к динамическим системам
В следующей формуле показано, как применить общую, теоретико-измерительную формулу разложения дисперсии к стохастическим динамическим системам. Пусть – значение переменной системы в момент времени . Предположим, что у нас есть внутренние истории (естественные фильтрации) , каждая из которых соответствует истории (траектории) различного набора переменных системы. Наборы не обязательно должны быть непересекающимися. Дисперсия может быть разложена для всех моментов времени на компоненты следующим образом:
The following formula shows how to apply the general, measure theoretic variance decomposition formula to stochastic dynamic systems. Let be the value of a system variable at time Suppose we have the internal histories (natural filtrations) , each one corresponding to the history (trajectory) of a different collection of system variables. The collections need not be disjoint. The variance of can be decomposed, for all times into components as follows:
Разложение не является единственным. Оно зависит от порядка условного ожидания в последовательном разложении.
The decomposition is not unique. It depends on the order of the conditioning in the sequential decomposition.