Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
Ықтималдықтар теориясында орталық шектеу теоремасы (CLT) көп жағдайларда тәуелсіз және бірдей үлестірілген кездейсоқ шамалар қосылғанда, олардың тиісті түрде нормаланған қосындысы қалыпты үлестірілімге жақындайтынын айтады. Бұл мақалада осы теореманың екі мысалы келтірілген. Екеуі де тәуелсіз және бірдей үлестірілген кездейсоқ шамалардың қосындысын қамтиды және қосындының ықтималдық үлестірілімі, қосындыдағы мүшелер саны артқан сайын қалыпты үлестірілімге қалай жақындайтынын көрсетеді. Бірінші мысал үздіксіз ықтималдық үлестірілімін қарастырады, онда кездейсоқ шамалардың ықтималдық тығыздық функциясы болады. Екінші мысал, есептеудің көп бөлігін қолмен орындауға болатын, дискретті ықтималдық үлестірілімін қамтиды, ол ықтималдық массалық функциясымен сипатталады.
In probability theory, the central limit theorem (CLT) states that, in many situations, when independent and identically distributed random variables are added, their properly normalized sum tends toward a normal distribution. This article gives two illustrations of this theorem. Both involve the sum of independent and identically distributed random variables and show how the probability distribution of the sum approaches the normal distribution as the number of terms in the sum increases. The first illustration involves a continuous probability distribution, for which the random variables have a probability density function. The second illustration, for which most of the computation can be done by hand, involves a discrete probability distribution, which is characterized by a probability mass function.
Жалғаспалы жағдайдың көрінісі
Екі тәуелсіз нақты мәнді кездейсоқ айнымалылардың қосындысының тығыздығы бастапқы айнымалылардың тығыздық функцияларының конволюциясына тең. Осылайша, тәуелсіз бірдей үлестірілген айнымалылар тізбегінің m+n мүшелерінің қосындысының тығыздығы m мүшелері мен n мүшелерінің қосындысының тығыздықтарының конволюциясына тең. Атап айтқанда, n+1 мүшенің қосындысының тығыздығы n мүшенің қосындысының тығыздығының бастапқы тығыздықпен (бір мүшенің "қосындысы") конволюциясына тең. Ықтималдық тығыздық функциясы төмендегі бірінші суретте көрсетілген. Содан кейін екі, үш және төрт тәуелсіз бірдей үлестірілген айнымалылардың қосындысының тығыздықтары, әрқайсысының бастапқы тығыздығы келесі суреттерде көрсетілген. Егер бастапқы тығыздық мысалдағыдай бөлшектік көпмүшелік болса, онда қосынды тығыздықтары да жоғары дәрежелі болады. Түпнұсқа тығыздық қалыпты үлестірімнен алыс болса да, сол тығыздықпен бірнеше айнымалылардың қосындысының тығыздығы әлдеқайда тегіс және қалыпты тығыздықтың кейбір сапалық ерекшеліктеріне ие. Конволюциялар дискретті Фурье түрлендірілімі арқылы есептелді. f бастапқы тығыздық функциясы және Δx шамамен 0,002-ге тең, ал k 0-ден 1000-ға дейін тең болатын y = f(x0 + k Δx) мәндерінің тізімі құрылды. y-тің дискретті Фурье түрлендірілімі есептелді. Содан кейін f-тің өзімен конволюциясы Y-тің өзімен нүктелік көбейтіндісінің кері дискретті Фурье түрлендіріліміне пропорционалды.
The density of the sum of two independent real valued random variables equals the convolution of the density functions of the original variables. Thus, the density of the sum of m+n terms of a sequence of independent identically distributed variables equals the convolution of the densities of the sums of m terms and of n term. In particular, the density of the sum of n+1 terms equals the convolution of the density of the sum of n terms with the original density (the "sum" of 1 term). A probability density function is shown in the first figure below. Then the densities of the sums of two, three, and four independent identically distributed variables, each having the original density, are shown in the following figures. If the original density is a piecewise polynomial, as it is in the example, then so are the sum densities, of increasingly higher degree. Although the original density is far from normal, the density of the sum of just a few variables with that density is much smoother and has some of the qualitative features of the normal density. The convolutions were computed via the discrete Fourier transform. A list of values y = f(x0 + k Δx) was constructed, where f is the original density function, and Δx is approximately equal to 0.002, and k is equal to 0 through 1000. The discrete Fourier transform Y of y was computed. Then the convolution of f with itself is proportional to the inverse discrete Fourier transform of the pointwise product of Y with itself.
Бастапқы ықтималдық тығыздық функциясы
Біз ықтималдық тығыздық функциясынан бастаймыз. Бұл функция үздіксіз болғанымен, жасауға болатын ең қиын жағдайдың мысалы емес. Ол 0 және 1 дәрежелі кесінділерден құралған бөлшектік көпмүшелік. Бұл үлестірілімнің математикалық күтілуі 0-ге, ал стандартты қатесі 1-ге тең.
We start with a probability density function. This function, although discontinuous, is far from the most pathological example that could be created. It is a piecewise polynomial, with pieces of degrees 0 and 1. The mean of this distribution is 0 and its standard deviation is 1.
Екі терминнің қосындысының ықтималдық тығыздық функциясы
Бұдан кейін жоғарыда көрсетілген тығыздыққа ие екі тәуелсіз айнымалының қосындысының тығыздығын есептейміз. Қосындының тығыздығы – жоғарыдағы тығыздықтың өзімен конволюциясы. Екі айнымалының қосындысының күтілетін мәні 0-ге тең. Оң жақтағы суретте көрсетілген тығыздық масштабталған, оның стандартты ауытқуы 1-ге тең. Бұл тығыздық бастапқысынан тегіс. Бастапқы тығыздық анықталған интервалдарға сәйкес келетін көзге көрінетін ісіктер бар.
Next we compute the density of the sum of two independent variables, each having the above density. The density of the sum is the convolution of the above density with itself. The sum of two variables has mean 0. The density shown in the figure at right has been rescaled by , so that its standard deviation is 1. This density is already smoother than the original. There are obvious lumps, which correspond to the intervals on which the original density was defined.
Үш мүшенің қосындысының ықтималдық тығыздық функциясы
Содан кейін жоғарыда көрсетілген тығыздыққа ие үш тәуелсіз айнымалының қосындысының тығыздығын есептейміз. Қосындының тығыздығы – бірінші тығыздықтың екінші тығыздықпен конволюциясы. Үш айнымалының қосындысының математикалық күтілуі 0-ге тең. Оң жақтағы суретте көрсетілген тығыздық масштабталған, оның стандартты қатесі 1-ге тең. Бұл тығыздық алдыңғысынан да тегіс. Бұл суреттегі дөңгелектерді анықтау қиын.
We then compute the density of the sum of three independent variables, each having the above density. The density of the sum is the convolution of the first density with the second. The sum of three variables has mean 0. The density shown in the figure at right has been rescaled by , so that its standard deviation is 1. This density is even smoother than the preceding one. The lumps can hardly be detected in this figure.
Төрт мүшенің қосындысының ықтималдық тығыздық функциясы
Соңында, жоғарыда көрсетілген тығыздыққа ие төрт тәуелсіз айнымалының қосындысының тығыздығын есептейміз. Қосындының тығыздығы – бірінші тығыздықтың үшінші тығыздықпен (немесе екінші тығыздықтың өзімен) конволюциясы. Төрт айнымалының қосындысының математикалық күтілуі 0-ге тең. Оң жақтағы суретте көрсетілген тығыздық , оның стандартты қатесі 1-ге тең етіп қайта масштабталған. Бұл тығыздық сапалық тұрғыдан қалыпты тығыздыққа өте ұқсас көрінеді. Көзбен ешқандай іріктемелерді ажырату мүмкін емес.
Finally, we compute the density of the sum of four independent variables, each having the above density. The density of the sum is the convolution of the first density with the third (or the second density with itself). The sum of four variables has mean 0. The density shown in the figure at right has been rescaled by , so that its standard deviation is 1. This density appears qualitatively very similar to a normal density. No lumps can be distinguished by the eye.
Дискретті жағдайдың көрінісі
Бұл бөлім орталық шек теоремасын мысал арқылы түсіндіреді, оның есептеуін қағазға қолмен жылдам орындауға болады. Бұл алдыңғы бөлімдегіге қарағанда есептеу қуатын көп қажет етпейді.
This section illustrates the central limit theorem via an example for which the computation can be done quickly by hand on paper, unlike the more computing intensive example of the previous section.
1000-ға дейінгі сандардың жиынтығының ықтималдық массалық функциясы
Келесі суретте осы бетте келтірілген мысалға негізделген симуляцияның нәтижесі көрсетілген. Біркелкі таралудан алынған мәндер 1000 рет қайталанады және нәтижелер қосылады. Симуляция Монте-Карло әдісіне негізделгендіктен, процесс 10 000 рет қайталанады. Нәтижелер 1000 біркелкі таңдаудың қосындысының таралуы қоңырау пішіндес қисыққа өте жақын екенін көрсетеді.
The following image shows the result of a simulation based on the example presented in this page. The extraction from the uniform distribution is repeated 1,000 times, and the results are summed. Since the simulation is based on the Monte Carlo method, the process is repeated 10,000 times. The results shows that the distribution of the sum of 1,000 uniform extractions resembles the bell shaped curve very well.