Введение
Корреляция сигнала с копией самого себя, сдвинутой во времени, как функция сдвига. Автокорреляция, иногда называемая последовательной корреляцией в дискретном случае, представляет собой корреляцию сигнала с его задержанной копией как функцию задержки. Неформально, это мера сходства между наблюдениями случайной величины в зависимости от временного лага между ними. Анализ автокорреляции – это математический инструмент для выявления повторяющихся закономерностей, таких как наличие периодического сигнала, замаскированного шумом, или определения основной частоты сигнала, подразумеваемой его гармониками. Он часто используется в обработке сигналов для анализа функций или последовательностей значений, например, сигналов во временной области. Различные области исследования определяют автокорреляцию по-разному, и не все эти определения эквивалентны. В некоторых областях этот термин используется как синоним автоковариации. Процессы с единичным корнем, тренд-стационарные процессы, авторегрессионные процессы и процессы скользящего среднего – это конкретные формы процессов, обладающих автокорреляцией.
Autocorrelation, sometimes known as serial correlation in the discrete time case, is the correlation of a signal with a delayed copy of itself as a function of delay. Informally, it is the similarity between observations of a random variable as a function of the time lag between them. The analysis of autocorrelation is a mathematical tool for finding repeating patterns, such as the presence of a periodic signal obscured by noise, or identifying the missing fundamental frequency in a signal implied by its harmonic frequencies. It is often used in signal processing for analyzing functions or series of values, such as time domain signals. Different fields of study define autocorrelation differently, and not all of these definitions are equivalent. In some fields, the term is used interchangeably with autocovariance. Unit root processes, trend stationary processes, autoregressive processes, and moving average processes are specific forms of processes with autocorrelation.
Автокорреляция стохастических процессов
В статистике автокорреляция реального или комплексного случайного процесса — это корреляция Пирсона между значениями процесса в разные моменты времени, представленная как функция двух моментов времени или временного лага. Пусть — случайный процесс, а — любой момент времени (может быть целым числом для дискретного процесса или действительным числом для непрерывного процесса). Тогда — это значение (или реализация), полученное в результате данного запуска процесса в момент времени . Предположим, что процесс имеет математическое ожидание и дисперсию в момент времени , для каждого . Тогда определение функции автокорреляции между моментами времени и имеет вид:
где — оператор математического ожидания, а черта обозначает комплексное сопряжение. Следует отметить, что математическое ожидание может быть не определено. Вычитание математического ожидания перед умножением дает функцию автоковариации между моментами времени и : или функцию автоковариантности.
Анализ регрессии
В регрессионном анализе с использованием данных временных рядов автокорреляция в переменной, представляющей интерес, обычно моделируется либо с помощью авторегрессионной модели (AR), модели скользящего среднего (MA), их комбинации в виде авторегрессионной модели скользящего среднего (ARMA), либо расширения последней, называемой авторегрессионной интегрированной моделью скользящего среднего (ARIMA). При работе с несколькими взаимосвязанными рядами данных используются векторная авторегрессия (VAR) или ее расширения. В методе наименьших квадратов (МНК) адекватность спецификации модели может быть проверена, в частности, путем установления наличия автокорреляции регрессионных остатков. Проблематичная автокорреляция ошибок, которые сами по себе ненаблюдаемы, обычно обнаруживается, поскольку она порождает автокорреляцию в наблюдаемых остатках. (Ошибки также известны как «члены ошибок» в эконометрике.) Автокорреляция ошибок нарушает предположение МНК об отсутствии корреляции между членами ошибок, что означает, что теорема Гаусса-Маркова неприменима, и оценки МНК перестают быть наилучшими линейными несмещенными оценками (BLUE). Хотя она и не приводит к смещению оценок коэффициентов МНК, стандартные ошибки, как правило, занижаются (а t-статистики завышаются), когда автокорреляции ошибок при малых лагах положительны. Традиционным тестом на наличие автокорреляции первого порядка является статистика Дурбина-Уотсона или, если в число объясняющих переменных входит запаздывающая зависимая переменная, статистика h Дурбина. Однако статистику Дурбина-Уотсона можно линейно преобразовать в корреляцию Пирсона между значениями и их лагами. Более гибким тестом, охватывающим автокорреляцию более высоких порядков и применимым независимо от того, включают ли регрессоры лаги зависимой переменной, является тест Бройша-Годфри. Он включает в себя вспомогательную регрессию, в которой остатки, полученные при оценке интересующей модели, регрессируются на (a) исходные регрессоры и (b) k лагов остатков, где 'k' – порядок теста. Простейшая версия статистики теста из этой вспомогательной регрессии – TR², где T – размер выборки, а R² – коэффициент детерминации. При нулевой гипотезе об отсутствии автокорреляции эта статистика асимптотически распределена как χ² с k степенями свободы. Методы устранения ненулевой автокорреляции включают обобщенный метод наименьших квадратов и оценщик Newey-West HAC (согласованный по гетероскедастичности и автокорреляции). При оценке модели скользящего среднего (MA) функция автокорреляции используется для определения соответствующего количества запаздывающих членов ошибок, которые следует включить. Это основано на том факте, что для процесса MA порядка q мы имеем ρₖ = 0 для k < q и ρₖ ≠ 0 для k ≥ q.
Серийная зависимость
Последовательная зависимость тесно связана с понятием автокорреляции, но представляет собой отличное понятие (см. Корреляция и зависимость). В частности, возможна последовательная зависимость при отсутствии (линейной) корреляции. Однако в некоторых областях эти два термина используются как синонимы. Временной ряд случайной величины обладает последовательной зависимостью, если значение в какой-то момент времени в ряду статистически зависит от значения в другой момент времени. Ряд является последовательно независимым, если между любой парой значений нет зависимости. Если временной ряд стационарен, то статистическая зависимость между парой значений подразумевает статистическую зависимость между всеми парами значений с одинаковым лагом.