Введение
Ковариация и корреляция
В обработке сигналов перекрестная корреляция является мерой сходства двух рядов как функция сдвига одного относительно другого. Это также известно как скользящее скалярное произведение или скользящее внутреннее произведение. Обычно используется для поиска в длинном сигнале более короткого, известного фрагмента. Она находит применение в распознавании образов, анализе отдельных частиц, электронной томографии, усреднении, криптоанализе и нейрофизиологии. Перекрестная корреляция по своей природе схожа со свёрткой двух функций. В автокорреляции, которая представляет собой перекрестную корреляцию сигнала с самим собой, всегда будет пик при нулевом сдвиге, и его величина будет равна энергии сигнала. В теории вероятностей и статистике термин «перекрестная корреляция» относится к корреляциям между элементами двух случайных векторов и , в то время как корреляции случайного вектора – это корреляции между его элементами, формирующие корреляционную матрицу. Если каждый из и является скалярной случайной величиной, которая многократно реализуется во временном ряду, то корреляции различных моментов времени известны как автокорреляции , а перекрестные корреляции с во времени – временными перекрестными корреляциями. В теории вероятностей и статистике определение корреляции всегда включает в себя нормирующий фактор таким образом, что корреляции принимают значения от -1 до +1. Если и – две независимые случайные величины с функциями плотности вероятности и , соответственно, то плотность вероятности разности формально задается перекрестной корреляцией (в смысле обработки сигналов); однако эта терминология не используется в теории вероятностей и статистике. Напротив, свёртка (эквивалентна перекрестной корреляции и ) дает функцию плотности вероятности суммы.
Перекрестная корреляция детерминированных сигналов
Для непрерывных функций f и g, перекрестная корреляция определяется как: что эквивалентно где обозначает комплексное сопряжение g, а τ называется смещением или лагом. Для сильно коррелированных f и g, имеющих максимальную перекрестную корреляцию при определенном τ, признак в f при t также появляется позже в g при t + τ, следовательно, можно сказать, что g запаздывает относительно f на τ.
If and are both continuous periodic functions of period , the integration from to is replaced by integration over any interval of length :which is equivalent toSimilarly, for discrete functions, the cross correlation is defined as:which is equivalent to:For finite discrete functions , the (circular) cross correlation is defined as:which is equivalent to:For finite discrete functions , , the kernel cross correlation is defined as:where is a vector of kernel functions and is an affine transform. Specifically, can be circular translation transform, rotation transform, or scale transform, etc. The kernel cross correlation extends cross correlation from linear space to kernel space. Cross correlation is equivariant to translation; kernel cross correlation is equivariant to any affine transforms, including translation, rotation, and scale, etc.
Если f и g являются непрерывными периодическими функциями с периодом T, интегрирование от -T/2 до T/2 заменяется интегрированием по любому интервалу длины T: что эквивалентно
If and are both continuous periodic functions of period , the integration from to is replaced by integration over any interval of length :which is equivalent toSimilarly, for discrete functions, the cross correlation is defined as:which is equivalent to:For finite discrete functions , the (circular) cross correlation is defined as:which is equivalent to:For finite discrete functions , , the kernel cross correlation is defined as:where is a vector of kernel functions and is an affine transform. Specifically, can be circular translation transform, rotation transform, or scale transform, etc. The kernel cross correlation extends cross correlation from linear space to kernel space. Cross correlation is equivariant to translation; kernel cross correlation is equivariant to any affine transforms, including translation, rotation, and scale, etc.
Аналогично, для дискретных функций, перекрестная корреляция определяется как: что эквивалентно:
If and are both continuous periodic functions of period , the integration from to is replaced by integration over any interval of length :which is equivalent toSimilarly, for discrete functions, the cross correlation is defined as:which is equivalent to:For finite discrete functions , the (circular) cross correlation is defined as:which is equivalent to:For finite discrete functions , , the kernel cross correlation is defined as:where is a vector of kernel functions and is an affine transform. Specifically, can be circular translation transform, rotation transform, or scale transform, etc. The kernel cross correlation extends cross correlation from linear space to kernel space. Cross correlation is equivariant to translation; kernel cross correlation is equivariant to any affine transforms, including translation, rotation, and scale, etc.
Для конечных дискретных функций f и g, (циркулярная) перекрестная корреляция определяется как: что эквивалентно:
If and are both continuous periodic functions of period , the integration from to is replaced by integration over any interval of length :which is equivalent toSimilarly, for discrete functions, the cross correlation is defined as:which is equivalent to:For finite discrete functions , the (circular) cross correlation is defined as:which is equivalent to:For finite discrete functions , , the kernel cross correlation is defined as:where is a vector of kernel functions and is an affine transform. Specifically, can be circular translation transform, rotation transform, or scale transform, etc. The kernel cross correlation extends cross correlation from linear space to kernel space. Cross correlation is equivariant to translation; kernel cross correlation is equivariant to any affine transforms, including translation, rotation, and scale, etc.
Для конечных дискретных функций f и g, перекрестная корреляция ядра определяется как: где K – вектор функций ядра, а A – аффинное преобразование. В частности, A может быть преобразованием циклического сдвига, преобразованием вращения или преобразованием масштаба и т.д. Перекрестная корреляция ядра расширяет перекрестную корреляцию из линейного пространства в пространство ядра. Перекрестная корреляция инвариантна к сдвигам; перекрестная корреляция ядра инвариантна к любым аффинным преобразованиям, включая сдвиги, вращения и масштабирование и т.д.
If and are both continuous periodic functions of period , the integration from to is replaced by integration over any interval of length :which is equivalent toSimilarly, for discrete functions, the cross correlation is defined as:which is equivalent to:For finite discrete functions , the (circular) cross correlation is defined as:which is equivalent to:For finite discrete functions , , the kernel cross correlation is defined as:where is a vector of kernel functions and is an affine transform. Specifically, can be circular translation transform, rotation transform, or scale transform, etc. The kernel cross correlation extends cross correlation from linear space to kernel space. Cross correlation is equivariant to translation; kernel cross correlation is equivariant to any affine transforms, including translation, rotation, and scale, etc.
Пояснение
В качестве примера рассмотрим две функции вещественного значения, отличающиеся только неизвестным сдвигом по оси x. Для определения величины сдвига функции по оси x, необходимого для ее совпадения с , можно использовать перекрестную корреляцию. По сути, формула сдвигает функцию по оси x, вычисляя интеграл их произведения в каждой позиции. Когда функции совпадают, значение перекрестной корреляции достигает максимума. Это происходит потому, что при совмещении пиков (положительных областей) они вносят существенный вклад в интеграл. Аналогично, при совмещении провалов (отрицательных областей) они также вносят положительный вклад в интеграл, поскольку произведение двух отрицательных чисел положительно. Для комплекснозначных функций и , взятие комплексно сопряженного для обеспечивает положительный вклад в интеграл при совмещении пиков (или провалов) с мнимыми компонентами. В эконометрике запаздывающая перекрестная корреляция иногда называется перекрестной автокорреляцией.
Определение
Для случайных векторов **x** и **y**, каждый из которых содержит случайные элементы, для которых существуют математическое ожидание и дисперсия, матрица перекрестной корреляции между **x** и **y** определяется как и имеет размерность . Записывая покомпонентно: Случайные векторы **x** и **y** не обязаны иметь одинаковую размерность, и каждый из них может быть скалярной величиной. Где – математическое ожидание.
Пример
Например, если **X** и **Y** — случайные векторы, то **XYᵀ** — матрица, чей (i, j)-й элемент равен .
Определение сложных случайных векторов
Если **x** и **y** – комплексные случайные векторы, каждый из которых содержит случайные переменные с существующими математическим ожиданием и дисперсией, то матрица взаимной корреляции между **x** и **y** определяется как где обозначает эрмитово сопряжение.
Кросс-корреляция стохастических процессов
В анализе временных рядов и статистике, перекрестная корреляция пары случайных процессов — это корреляция между значениями этих процессов в различные моменты времени, представленная как функция двух времен. Пусть — пара случайных процессов, а — произвольный момент времени (может быть целым числом для дискретного процесса или действительным числом для непрерывного процесса). Тогда — это значение (или реализация), полученное в результате конкретного эксперимента процесса в момент времени .
Функция перекрестной корреляции
Предположим, что процесс имеет средние значения μ₁ и μ₂ и дисперсии σ₁² и σ₂² в момент времени t для каждого из них. Тогда определение перекрестной корреляции между моментами времени t₁ и t₂ выглядит следующим образом: соответственно для совместно WSS процессов:
Анализ задержки
Перекрестные корреляции полезны для определения временной задержки между двумя сигналами, например, для определения задержек распространения акустических сигналов в микрофонной решетке. После вычисления перекрестной корреляции между двумя сигналами, максимум (или минимум, если сигналы отрицательно коррелированы) функции перекрестной корреляции указывает на момент времени, когда сигналы наилучшим образом согласованы; то есть, временная задержка между двумя сигналами определяется аргументом максимума, или arg max перекрестной корреляции, как в терминологии обработки изображений.
Нелинейные системы
При использовании перекрестной корреляции для нелинейных систем необходимо соблюдать осторожность. В определенных случаях, зависящих от свойств входного сигнала, перекрестная корреляция между входным и выходным сигналами системы с нелинейной динамикой может полностью не обнаруживать некоторые нелинейные эффекты. Эта проблема возникает из-за того, что некоторые квадратичные моменты могут равняться нулю, что может ошибочно указывать на слабое "взаимодействие" (в смысле статистической зависимости) между двумя сигналами, хотя на самом деле эти сигналы тесно связаны нелинейной динамикой.