Кіріспе
Ықтималдық тығыздық функциясының Фурье түрлендіруі
Ықтималдық теориясы мен статистикада, кез келген нақты мәнді кездейсоқ айнымалының сипаттамалық функциясы оның ықтималдық үлестірімін толық анықтайды. Егер кездейсоқ айнымалы ықтималдық тығыздық функциясына ие болса, онда сипаттамалық функция – ықтималдық тығыздық функциясының Фурье түрлендіруі (таңбасы кері айналдырылған). Осылайша, ол ықтималдық тығыздық функцияларымен немесе жинақтау үлестіру функцияларымен тікелей жұмыс істеуге қарағанда аналитикалық нәтижелерге қол жеткізудің балама жолын ұсынады. Кездейсоқ айнымалылардың салмақты қосындылары арқылы анықталған үлестірілімдердің сипаттамалық функциялары үшін ерекше қарапайым нәтижелер бар. Бір өлшемді үлестірілімдерден басқа, сипаттамалық функциялар векторлық немесе матрицалық мәнді кездейсоқ айнымалылар үшін де анықталуы мүмкін, сонымен қатар оларды жалпы жағдайларға дейін кеңейтуге болады. Сәт туғызатын функциядан айырмашылығы, сипаттамалық функция нақты мәнді аргументтің функциясы ретінде қарастырылғанда әрқашан болады. Үлестірімнің сипаттамалық функциясының мінез-құлқы мен үлестірімнің қасиеттері, мысалы, сәттердің болуы және тығыздық функциясының болуы арасында байланыстар бар.
Кіріспе
Характерлік функция – кездейсоқ айнымалыны сипаттаудың бір жолы. Характерлік функция, t-ға тәуелді функция, кездейсоқ айнымалы X-тің ықтималдық үлестірімінің мінез-құлқы мен қасиеттерін толық анықтайды. Характерлік функция жиынтық үлестіру функциясына ұқсас (мұнда '1'{X ≤ x} – индикатор функциясы, ол X ≤ x болған жағдайда 1-ге тең, ал басқа жағдайда нөлге тең), ол да кездейсоқ айнымалы X-тің ықтималдық үлестіруінің мінез-құлқы мен қасиеттерін толық анықтайды. Екі тәсіл эквивалентті, себебі функциялардың біреуін білгеннен кейін екіншісін табу әрқашан мүмкін, бірақ олар кездейсоқ айнымалының ерекшеліктерін түсіну үшін әртүрлі көзқарас ұсынады. Сонымен қатар, кейбір жағдайларда осы функцияларды қарапайым стандартты функцияларды қамтитын өрнектер түрінде бейнелеуге бола ма деген мәселеде айырмашылықтар болуы мүмкін. Егер кездейсоқ айнымалы тығыздық функциясына ие болса, онда сипаттамалық функция оның Фурье дуалы болып табылады, яғни олардың әрқайсысы екіншісінің Фурье түрлендіруі болып табылады. Егер кездейсоқ айнымалыда момент туғызатын функция болса, онда сипаттамалық функцияның доменін комплекс жазықтыққа дейін кеңейтуге болады, бірақ таралымның сипаттамалық функциясы ықтималдық тығыздық функциясы немесе момент туғызатын функция болмаған кезде де әрқашан бар екенін ескеріңіз. Характерлік функция тәсілі, әсіресе, тәуелсіз кездейсоқ айнымалылардың сызықтық комбинацияларын талдау кезінде пайдалы: Орталық шектеу теоремасының классикалық дәлелі сипаттамалық функцияларды және Левидің үздіксіздік теоремасын қолданады. Тағы бір маңызды қолданылуы – кездейсоқ айнымалылардың ыдырау теориясы.
a function of t,
completely determines the behavior and properties of the probability distribution of the random variable X. The characteristic function is similar to the cumulative distribution function,
(where '1'{X ≤ x} is the indicator function — it is equal to 1 in the event that X ≤ x, and zero otherwise), which also completely determines the behavior and properties of the probability distribution of the random variable X. The two approaches are equivalent in the sense that knowing one of the functions it is always possible to find the other, yet they provide different insights for understanding the features of the random variable. Moreover, in particular cases, there can be differences in whether these functions can be represented as expressions involving simple standard functions. If a random variable admits a density function, then the characteristic function is its Fourier dual, in the sense that each of them is a Fourier transform of the other. If a random variable has a moment generating function , then the domain of the characteristic function can be extended to the complex plane, and
Note however that the characteristic function of a distribution always exists, even when the probability density function or moment generating function do not. The characteristic function approach is particularly useful in analysis of linear combinations of independent random variables: a classical proof of the Central Limit Theorem uses characteristic functions and Lévy's continuity theorem. Another important application is to the theory of the decomposability of random variables.
Қасиеттері
Нақты мәнді кездейсоқ айнымалының сипаттама функциясы әрқашан болады, себебі ол шектелген үздіксіз функцияның интегралы болып табылады, өлшемі шекті кеңістікте. Сипаттама функциясы бүкіл кеңістікте біркелкі үздіксіз болады. Ол нөлге жақын аймақта нөлге тең болмайды: 1=φ(0) = 1. Ол шектеледі: ол Эрмиттік: Атап айтқанда, симметриялық (төңкеріліске қатысты) кездейсоқ айнымалының сипаттама функциясы нақты мәнді және жұп. Ықтималдық үлестірілімдері мен сипаттама функциялары арасында биекция бар. Яғни, кез келген екі X1, X2 кездейсоқ айнымалы үшін, егер олардың ықтималдық үлестірілімдері бірдей болса, ғана. Егер кездейсоқ айнымалы X-тің k-шы ретке дейінгі моменттері болса, онда φX сипаттама функциясы бүкіл нақты түзуде k рет үздіксіз дифференциалданады. Бұл жағдайда, егер φX сипаттама функциясының k-шы туындысы нөлде болса, онда кездейсоқ айнымалы X, k жұп болса, k-ға дейінгі барлық моменттерге ие, ал k тақ болса, тек k-1-ге дейін ғана ие. Егер X1, …, Xn тәуелсіз кездейсоқ айнымалылар болса, ал a1, …, an – кейбір тұрақтылар болса, онда Xi айнымалыларының сызықтық комбинациясының сипаттама функциясы: Бір нақты жағдай – екі тәуелсіз кездейсоқ айнымалылардың қосындысы X1 және X2, онда: Егер және – екі кездейсоқ айнымалылар болса, олардың сипаттама функциялары және болса, онда олар тәуелсіз болады, ғана егер. Сипаттама функциясының құйрық мінез-құлқы сәйкес тығыздық функциясының тегістігін анықтайды. Кездейсоқ айнымалы кездейсоқ айнымалының сызықтық түрленуі болсын. -ның сипаттама функциясы: Кездейсоқ векторлар және үшін (мұнда A тұрақты матрица, ал B тұрақты вектор) мынадай болады.
If a random variable X has moments up to k th order, then the characteristic function φX is k times continuously differentiable on the entire real line. In this case
If a characteristic function φX has a k th derivative at zero, then the random variable X has all moments up to k if k is even, but only up to k – 1 if k is odd. If X1, , Xn are independent random variables, and a1, , an are some constants, then the characteristic function of the linear combination of the Xi variables is One specific case is the sum of two independent random variables X1 and X2 in which case one has
Let and be two random variables with characteristic functions and and are independent if and only if The tail behavior of the characteristic function determines the smoothness of the corresponding density function. Let the random variable be the linear transformation of a random variable The characteristic function of is For random vectors and (where A is a constant matrix and B a constant vector), we have .
Жалғастығы
Жоғарыда айтылған ықтималдық үлестірімдері мен сипаттамалық функциялар арасындағы биекция тізбектік түрде үздіксіз. Яғни, егер үлестірім функцияларының тізбегі Fj(x) кейбір үлестірім F(x) қарай (әлсіз) жақынсаса, онда сәйкес сипаттамалық функциялар тізбегі φj(t) да жақынсады, ал φ(t) лимиті F заңының сипаттамалық функциясына сәйкес келеді. Бұны Левидің үздіксіздік теоремасы ретінде тұжырымдайды: n айнымалы кездейсоқ шамалардың Xj тізбегі кездейсоқ шама X-қа үлестірім бойынша жақынсаса және ғана егер φXj тізбегі бастапқы нүктеде үздіксіз φ функциясына нүктелік түрде жақынсаса. Мұнда φ – X-тің сипаттамалық функциясы. Бұл теорема үлкен сандар заңын және орталық шек теоремасын дәлелдеу үшін қолданылуы мүмкін.
Lévy’s continuity theorem: A sequence Xj of n variate random variables converges in distribution to random variable X if and only if the sequence φXj converges pointwise to a function φ which is continuous at the origin. Where φ is the characteristic function of X. This theorem can be used to prove the law of large numbers and the central limit theorem.
Қолданылуы
Тұрақтылық теоремасының арқасында, сипаттама функциялары орталық шек теоремасының ең көп кездесетін дәлелінде қолданылады. Сипаттама функциясымен есептеулер жасаудағы басты тәсіл – функцияны нақты бір таралымның сипаттама функциясы ретінде анықтау болып табылады.
Мүгедектер
Характерлік функцияларды кездейсоқ айнымалының моменттерін табу үшін де қолдануға болады. Егер n-ші момент болса, сипаттамалық функцияны n рет дифференциалдауға болады:
Бұл Дирак дельта функциясының туындыларын қолдана отырып, формалды түрде жазылуы мүмкін: бұл моменттер мәселесіне формальды шешім береді. Мысалы, X стандартты Коши үлестіріміне ие болсын. Бұл t=0 нүктесінде дифференциалданбайды, бұл Коши үлестірімінің математикалық күтуі жоқ екенін көрсетеді. Сондай-ақ, n тәуелсіз байқаулардың үлгілік орташасының сипаттамалық функциясы , алдыңғы бөлімнен алынған нәтижені пайдаланып, сипаттамалық функцияға ие. Бұл стандартты Коши үлестірімінің сипаттамалық функциясы: демек, үлгілік орташа популяциямен бірдей үлестірімге ие. Тағы бір мысал ретінде, X Гаусс үлестіріміне сәйкес келсін, яғни, сонда және
Ұқсас есептеулер көрсетіп тұр, ал күтудің анықтамасын қолданудан және интегралдаудың бөліктері арқылы бағалаудан оңайрақ. Характерлік функцияның логарифмі – кумулянттарды тудыратын функция, ол кумулянттарды табуға көмектеседі; кейбіреулері кумулянттарды тудыратын функцияны моменттерді тудыратын функцияның логарифмі ретінде анықтайды және сипаттамалық функцияның логарифмін екінші кумулянттарды тудыратын функция деп атайды.
The logarithm of a characteristic function is a cumulant generating function, which is useful for finding cumulants; some instead define the cumulant generating function as the logarithm of the moment generating function, and call the logarithm of the characteristic function the second cumulant generating function.
Деректерді талдау
Характерлік функциялар деректер үлгілеріне ықтималдық үлестірілімдерін сәйкес келтіру процедураларының бір бөлігі ретінде қолданылуы мүмкін. Бұл, басқа әдістермен салыстырғанда тиімді нұсқаны ұсынатын жағдайларға, мысалы, тұрақты үлестірілімді сәйкестендіру кіреді, себебі оның тығыздық функциясы үшін жабық түрдегі формулалар жоқ, бұл максималды ықтималдық әдісімен бағалауды қиындатады. Теориялық характерлік функцияны деректерден есептелген эмпирикалық характерлік функциямен сәйкестендіретін бағалау әдістері бар. Полсон және авторлар (1975) мен Хиткоут (1977) мұндай бағалау процедурасының теориялық негізін ұсынады. Сонымен қатар, Ю (2004) ықтималдық әдістері тиімсіз уақыт қатарлары модельдеріне эмпирикалық характерлік функцияларды қолдануды сипаттайды. Эмпирикалық характерлік функциялар Ансари және авторлар (2020) мен Ли және авторлар (2020) генеративті қарсыластық желілерді оқыту үшін де қолданылған.
Бүкіл сипаттама функциялары
Жоғарыда анықталғандай, сипаттамалық функцияның аргументі нақты сан ретінде қарастырылады. Алайда, сипаттамалық функциялар теориясының кейбір аспектілері, мүмкін болған жағдайда, талдау арқылы жалғастыру жолымен анықтаманы комплекс жазықтыққа кеңейту арқылы дамытылады.
Қарым-қатынас ұғымдары
Байланысты ұғымдарға моменттерді тудыратын функция және ықтималдықтарды тудыратын функция жатады. Барлық ықтималдық үлестірімдері үшін сипаттамалық функция бар. Бірақ моменттерді тудыратын функция үшін бұл дұрыс емес. Сипаттамалық функция Фурье түрлендіруімен тығыз байланысты: ықтималдық тығыздық функциясының сипаттамалық функциясы p(x) – p(x) үздіксіз Фурье түрлендіруінің кешенді конъюгаты болып табылады (әдеттегі келісім бойынша; үздіксіз Фурье түрлендіруі – басқа келісімдер қараңыз). Мұндағы P(t) – ықтималдық тығыздық функциясының үздіксіз Фурье түрлендірмесі p(x). Сол сияқты, p(x) φX(t) кері Фурье түрлендіруі арқылы қалпына келтірілуі мүмкін. Шындығында, кездейсоқ айнымалы тығыздыққа ие болмаған жағдайда да, сипаттамалық функция кездейсоқ айнымалыға сәйкес өлшемнің Фурье түрлендіруі ретінде қарастырылуы мүмкін. Тағы бір байланысты ұғым – бұл ықтималдық үлестірімдерін үлестірімдердің ядролық ендіруі арқылы көбейтетін ядролық Гильберт кеңістігінің элементтері ретінде бейнелеу. Бұл құрылымды ядролық функцияның нақты таңдаулары бойынша сипаттамалық функцияның жалпылауы ретінде қарастыруға болады.
Indeed, even when the random variable does not have a density, the characteristic function may be seen as the Fourier transform of the measure corresponding to the random variable. Another related concept is the representation of probability distributions as elements of a reproducing kernel Hilbert space via the kernel embedding of distributions. This framework may be viewed as a generalization of the characteristic function under specific choices of the kernel function.