Сигналдың өзімен-өзінің корреляциясы және уақыт бойынша қабаттасуы

Кіріспе

Автокорреляция, кейде дискретті уақыт жағдайында сериялық корреляция деп аталады, – бұл сигналдың өзінің уақыт бойынша ығысқан көшірмесімен байланысы, бұл байланыс ығысқа тәуелді болады. Жай тілмен айтқанда, бұл кездейсоқ айнымалының өлшемдері арасындағы ұқсастық, олардың арасындағы уақыт айырмасына байланысты. Автокорреляцияны талдау – қайталанатын үлгілерді табуға арналған математикалық құрал, мысалы, шуға араласқан периодтық сигналды табу немесе сигналдың гармоникалық жиіліктері арқылы білдірілетін негізгі жиілікті анықтау. Бұл сигналдарды өңдеуде функцияларды немесе уақыт доменіндегі сигналдар сияқты мәндер тізбегін талдау үшін жиі қолданылады. Әртүрлі салалар автокорреляцияны әртүрлі анықтайды, және барлық анықтамалар бірдей емес. Кейбір салаларда бұл термин автоковарианциямен мағынасы бірдей қолданылады. Бір түбірлі процестер, трендтік тұрақты процестер, авторегрессиялық процестер және жылжымалы орташа процестер – автокорреляцияға ие процестердің нақты түрлері.

Стохастикалық процестердің автокорреляциясы

Статистикада нақты немесе кешенді кездейсоқ процестің автокорреляциясы – екі уақыт немесе уақыт кешігуінің функциясы ретінде әртүрлі уақыттағы процестің мәндері арасындағы Пирсон корреляциясы. кездейсоқ процесс болсын, ал – кез келген уақыт нүктесі (дискретті уақыт процесі үшін бүтін сан, ал үздіксіз уақыт процесі үшін нақты сан болуы мүмкін). Онда – процесс жүргізілімінің белгілі бір кезеңінде уақытында алынған мән (немесе іске асырылу). Егер процесс уақытында орташа және дисперсияға ие болса, әрқайсысы үшін, онда және уақыттары арасындағы автокорреляция функциясы былай анықталады:

мұндағы – күтілетін мән операторы, ал сызықша – кешенді конъюгацияны білдіреді. Күтілім жақсы анықталмауы мүмкін. Көбейтуден бұрын орташа мәнді алып тастау және уақыттары арасындағы автоковарианс функциясын немесе автоковарианс функциясын береді.

Регрессиялық талдау

Уақыт сериясы деректерін пайдалана отырып, регрессиялық талдау кезінде қызығушылық тудыратын айнымалыдағы автокорреляция әдетте авторегрессивті модельмен (AR), жылжымалы орташа модельмен (MA), олардың комбинациясы – авторегрессивті жылжымалы орташа модель (ARMA), немесе соңғысының кеңейтілуі – авторегрессивті интегралды жылжымалы орташа модель (ARIMA) арқылы модельделеді. Егер бірнеше өзара байланысты деректер сериясы болса, векторлық авторегрессия (VAR) немесе оның кеңейтулері қолданылады. Кәдімгі ең кіші квадраттар (OLS) әдісінде модельдің дұрыстығын регрессиялық қалдықтардың автокорреляциясының бар-жоқтығын тексеру арқылы бағалауға болады. Қателердің (өзі байқалмайтын) проблемалық автокорреляциясын, әдетте, байқалатын қалдықтардағы автокорреляция арқылы анықтауға болады. (Эконометрияда қателер «қателік шарттары» деп те аталады.) Қателердің автокорреляциясы қателік шарттары корреляцияланбаған деген кәдімгі ең кіші квадраттардың негізгі болжамын бұзады, яғни Гаусс-Марков теоремасы қолданылмайды және OLS бағалаушылары енді ең жақсы сызықтық бейтарап бағалаушылар (BLUE) емес. Бұл OLS коэффициенттерінің бағалауын бұрмаламайды, бірақ егер қателердің кіші кешіктірулердегі автокорреляциясы оң болса, стандартты қателер көбінесе төмен бағаланады (ал t-мәндері асыра бағаланады). Бірінші реттік автокорреляцияның болуын тексеру үшін дәстүрлі тест – Дурбин-Уотсон статистикасы, ал түсіндірмелі айнымалылар кідірілген тәуелді айнымалыны қамтитын болса – Дурбиннің h статистикасы. Алайда, Дурбин-Уотсон статистикасын мәндер мен олардың кідірістері арасындағы Пирсонның корреляциясына сызықтық түрде түрлендіруге болады. Жоғары реттік автокорреляцияны қамтитын және регрессорлар тәуелді айнымалының кідірістерін қамтиды ма, жоқ па, екесіне де қолданылатын, көбірек мүмкіндік беретін тест – Бройш-Годфри тесті. Бұл көмекші регрессияны қамтиды, онда қызығушылық тудыратын модельді бағалаудан алынған қалдықтар (а) бастапқы регрессорларға және (б) қалдықтардың k кідірістеріне регрессияланады, мұнда 'k' – тесттің реті. Осы көмекші регрессиядан алынған тест статистикасының ең қарапайым түрі TR2, мұнда T – үлгінің көлемі, ал R2 – анықтау коэффициенті. Автокорреляция жоқ деген нөлдік гипотеза бойынша бұл статистика k еркіндік дәрежесімен асимптотикалық түрде таралады. Автокорреляция нөлден өзгеше болған жағдайда қолданылатын әдістер – жалпыланған ең кіші квадраттар және Newey-West HAC бағалаушысы (гетероскедастикалыққа және автокорреляцияға бейім). Жылжымалы орташа модельді (MA) бағалау кезінде автокорреляция функциясы енгізілуі тиіс кідірілген қателік шарттарының санын анықтау үшін қолданылады. Бұл q реттік MA процесі үшін , үшін және , үшін екендігіне негізделген.

In regression analysis using time series data, autocorrelation in a variable of interest is typically modeled either with an autoregressive model (AR), a moving average model (MA), their combination as an autoregressive moving average model (ARMA), or an extension of the latter called an autoregressive integrated moving average model (ARIMA). With multiple interrelated data series, vector autoregression (VAR) or its extensions are used. In ordinary least squares (OLS), the adequacy of a model specification can be checked in part by establishing whether there is autocorrelation of the regression residuals. Problematic autocorrelation of the errors, which themselves are unobserved, can generally be detected because it produces autocorrelation in the observable residuals. (Errors are also known as "error terms" in econometrics.) Autocorrelation of the errors violates the ordinary least squares assumption that the error terms are uncorrelated, meaning that the Gauss Markov theorem does not apply, and that OLS estimators are no longer the Best Linear Unbiased Estimators (BLUE). While it does not bias the OLS coefficient estimates, the standard errors tend to be underestimated (and the t scores overestimated) when the autocorrelations of the errors at low lags are positive. The traditional test for the presence of first order autocorrelation is the Durbin–Watson statistic or, if the explanatory variables include a lagged dependent variable, Durbin's h statistic. The Durbin Watson can be linearly mapped however to the Pearson correlation between values and their lags. A more flexible test, covering autocorrelation of higher orders and applicable whether or not the regressors include lags of the dependent variable, is the Breusch–Godfrey test. This involves an auxiliary regression, wherein the residuals obtained from estimating the model of interest are regressed on (a) the original regressors and (b) k lags of the residuals, where 'k' is the order of the test. The simplest version of the test statistic from this auxiliary regression is TR2, where T is the sample size and R2 is the coefficient of determination. Under the null hypothesis of no autocorrelation, this statistic is asymptotically distributed as with k degrees of freedom. Responses to nonzero autocorrelation include generalized least squares and the Newey–West HAC estimator (Heteroskedasticity and Autocorrelation Consistent). In the estimation of a moving average model (MA), the autocorrelation function is used to determine the appropriate number of lagged error terms to be included. This is based on the fact that for an MA process of order q, we have , for , and , for .

Серіктілік тәуелділік

Сериялық тәуелділік автокорреляция ұғымымен тығыз байланысты, бірақ ерекше түсінік болып табылады (Корреляция және тәуелділік бөлімін қараңыз). Атап айтқанда, сериялық тәуелділік болғанымен, (сызықтық) корреляция болмауы мүмкін. Дегенмен, кейбір салаларда екі термин бір-бірінің орнына қолданылады. Кездейсоқ айнымалының уақыт қатарында, егер қатардың бір уақыттағы мәні басқа уақыттағы мәнге статистикалық түрде тәуелді болса, сериялық тәуелділік болады. Егер кез келген жұп арасында тәуелділік болмаса, қатар сериялық тәуелсіз болады. Егер уақыт қатары тұрақты болса, онда бір арақашықтықтағы жұп арасындағы статистикалық тәуелділік, сол арақашықтықтағы барлық мәндер жұптары арасында статистикалық тәуелділік бар екенін көрсетеді.