Авторегрессионные модели: представление случайных процессов
Autoregressive model
Авторегрессионные (AR) модели в статистике: описание случайных процессов, зависимость от прошлых значений и стохастических факторов. AR, ARMA, ARIMA модели.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Представление типа случайного процесса
Representation of a type of random process
В статистике, эконометрике и обработке сигналов авторегрессионная модель (АР) является представлением типа случайного процесса; таким образом, она используется для описания определенных процессов, изменяющихся во времени, в природе, экономике, поведении и т.д. Авторегрессионная модель определяет, что выходная переменная линейно зависит от своих предыдущих значений и от стохастического члена (не полностью предсказуемого члена); таким образом, модель имеет вид стохастического разностного уравнения (или соотношения рекурренции), которое не следует путать с дифференциальным уравнением. Вместе с моделью скользящего среднего (MA) она представляет собой частный случай и ключевой компонент более общих моделей авторегрессии-скользящего среднего (ARMA) и авторегрессии интегрированного скользящего среднего (ARIMA) для временных рядов, которые имеют более сложную стохастическую структуру; это также частный случай векторной авторегрессионной модели (VAR), которая состоит из системы, включающей более одного взаимосвязанного стохастического разностного уравнения для более чем одной развивающейся случайной переменной. В отличие от модели скользящего среднего (MA), авторегрессионная модель не всегда стационарна, поскольку может содержать единичный корень.
In statistics, econometrics, and signal processing, an autoregressive (AR) model is a representation of a type of random process; as such, it is used to describe certain time varying processes in nature, economics, behavior, etc. The autoregressive model specifies that the output variable depends linearly on its own previous values and on a stochastic term (an imperfectly predictable term); thus the model is in the form of a stochastic difference equation (or recurrence relation) which should not be confused with a differential equation. Together with the moving average (MA) model, it is a special case and key component of the more general autoregressive–moving average (ARMA) and autoregressive integrated moving average (ARIMA) models of time series, which have a more complicated stochastic structure; it is also a special case of the vector autoregressive model (VAR), which consists of a system of more than one interlocking stochastic difference equation in more than one evolving random variable. Contrary to the moving average (MA) model, the autoregressive model is not always stationary as it may contain a unit root.
Графики процессов AR ((p)
Самый простой AR-процесс – AR(0), который не имеет зависимости между членами. К выходному значению процесса вносит вклад только ошибка/инновация/шум, поэтому на рисунке AR(0) соответствует белому шуму. Для AR(1)-процесса с положительным φ, к выходному значению вносят вклад только предыдущий член процесса и шум. Если φ близко к 0, то процесс все еще выглядит как белый шум, но по мере приближения φ к 1, вклад предыдущего члена в выходное значение становится больше по сравнению с шумом. Это приводит к "сглаживанию" или интегрированию выходного значения, аналогичному фильтру нижних частот. Для AR(2)-процесса к выходному значению вносят вклад два предыдущих члена и шум. Если оба φ₁ и φ₂ положительны, выход будет напоминать фильтр нижних частот, при этом высокочастотная составляющая шума уменьшается. Если φ₁ положительно, а φ₂ отрицательно, то процесс благоприятствует изменениям знака между членами процесса. Выходное значение колеблется. Это можно сравнить с обнаружением границ или определением изменения направления.
The simplest AR process is AR(0), which has no dependence between the terms. Only the error/innovation/noise term contributes to the output of the process, so in the figure, AR(0) corresponds to white noise. For an AR(1) process with a positive , only the previous term in the process and the noise term contribute to the output. If is close to 0, then the process still looks like white noise, but as approaches 1, the output gets a larger contribution from the previous term relative to the noise. This results in a "smoothing" or integration of the output, similar to a low pass filter. For an AR(2) process, the previous two terms and the noise term contribute to the output. If both and are positive, the output will resemble a low pass filter, with the high frequency part of the noise decreased. If is positive while is negative, then the process favors changes in sign between terms of the process. The output oscillates. This can be likened to edge detection or detection of change in direction.
Выбор максимальной задержки
Частичная автокорреляция процесса AR(p) равна нулю при задержках, превышающих p, поэтому подходящая максимальная задержка p – это та, после которой все значения частичной автокорреляции равны нулю.
The partial autocorrelation of an AR(p) process equals zero at lags larger than p, so the appropriate maximum lag p is the one after which the partial autocorrelations are all zero.
Импульсная реакция
Импульсный отклик системы — это изменение развивающейся переменной в ответ на изменение значения шокового воздействия k периодов назад, как функция от k. Поскольку модель AR является частным случаем векторной авторегрессионной модели, вычисление импульсного отклика в векторной авторегрессии (см. #импульсный отклик) применимо и здесь.
The impulse response of a system is the change in an evolving variable in response to a change in the value of a shock term k periods earlier, as a function of k. Since the AR model is a special case of the vector autoregressive model, the computation of the impulse response in vector autoregression#impulse response applies here.