Введение
Теорема в статистике и эконометрике
В эконометрике теорема Фриша — Вау — Ловелла (Frisch–Waugh–Lovell, FWL) названа в честь эконометристов Рагнара Фриша, Фредерика В. Вау и Майкла С. Ловелла. Теорема Фриша — Вау — Ловелла утверждает, что если регрессия, которую мы рассматриваем, выражена через два отдельных набора предикторных переменных:
In econometrics, the Frisch–Waugh–Lovell (FWL) theorem is named after the econometricians Ragnar Frisch, Frederick V. Waugh, and Michael C. Lovell. The Frisch–Waugh–Lovell theorem states that if the regression we are concerned with is expressed in terms of two separate sets of predictor variables:
где и — матрицы, и — векторы (а — ошибка), то оценка будет такой же, как оценка, полученная из модифицированной регрессии вида:
где проектирует на ортогональное дополнение образа проекционной матрицы . Эквивалентно, MX1 проектирует на ортогональное дополнение столбцового пространства X1. В частности,
и эта конкретная матрица ортогонального проецирования известна как матрица построения остатков или аннигилирующая матрица. Вектор — это вектор остатков от регрессии на столбцы .
Наиболее важное следствие теоремы заключается в том, что параметры в относятся не к , а к , то есть: к части , некоррелированной с . Это является основой для понимания вклада каждой отдельной переменной в многомерную регрессию (см., например, гл. 13 в ). Теорема также подразумевает, что вторичная регрессия, используемая для получения , не требуется, когда предикторные переменные некоррелированы: использование матриц проецирования для придания объясняющим переменным ортогональности друг к другу приведет к тем же результатам, что и проведение регрессии со всеми неортогональными объясняющими переменными. Более того, стандартные ошибки частичной регрессии равны стандартным ошибкам полной регрессии.
The most relevant consequence of the theorem is that the parameters in do not apply to but to , that is: the part of uncorrelated with This is the basis for understanding the contribution of each single variable to a multivariate regression (see, for instance, Ch. 13 in ). The theorem also implies that the secondary regression used for obtaining is unnecessary when the predictor variables are uncorrelated: using projection matrices to make the explanatory variables orthogonal to each other will lead to the same results as running the regression with all non orthogonal explanators included. Moreover, the standard errors from the partial regression equal those from the full regression.
История
Происхождение теоремы неясно, но она была хорошо известна в области линейной регрессии еще до работы Фриша и Во. Всесторонний анализ частичных регрессий, проведенный Джорджем Удни Юлом и опубликованный в 1907 году, включал эту теорему в разделе 9 на странице 184. Юл подчеркивал важность теоремы для понимания множественной и частичной регрессии, а также коэффициентов корреляции, что упоминается в разделе 10 той же работы. В статье 1931 года, написанной в соавторстве с Маджеттом, Фриш ссылался на результаты Юла. Формулы Юла для частичных регрессий были процитированы и ему явно приписаны, чтобы исправить неверную цитату другого автора, которую считали более простой и интуитивно понятной. В знак признательности, люди обычно добавляют его имя к названию теоремы.