Кездейсоқ шамалар жиынтығы

Кіріспе

Кездейсоқ айнымалылар жиынтығы [[File:BMonSphere. jpg|thumb|Шар бетінде Винер немесе Браун қозғалысы процесінің компьютерлік симуляциясы. Винер процесі ықтималдық теориясында ең көп зерттелген және орталық стохастикалық процесс саналады. Стохастикалық процестер биология, химия, экология, нейроғылым, физика, кескін өңдеу, сигнал өңдеу, басқару теориясы, ақпарат теориясы, компьютер ғылымы және телекоммуникациялар сияқты көптеген салаларда қолданылады. Сонымен қатар, қаржы нарықтарындағы көрінетін кездейсоқ өзгерістер қаржы саласында стохастикалық процестерді кеңінен қолдануға түрткі болды. Қолданыстар мен құбылыстарды зерттеу, өз кезегінде, жаңа стохастикалық процестерді ұсынуға әсер етті. Мұндай стохастикалық процестердің мысалдары ретінде Луи Башельер Париж биржасындағы баға өзгерістерін зерттеу үшін қолданған Винер процесі немесе Браун қозғалысы процесі, және А.К. Эрланг белгілі бір уақыт аралығындағы телефон қоңырауларының санын зерттеу үшін қолданған Пуассон процесі жатады. Бұл екі стохастикалық процесс стохастикалық процестер теориясының ең маңызды және орталық бөлігі саналады және Башельер мен Эрлангқа дейін де, кейін де, әртүрлі жағдайларда және елдерде бірнеше рет тәуелсіз түрде ойлап табылды. Стохастикалық немесе кездейсоқ процесске сілтеме жасау үшін «кездейсоқ функция» термині де қолданылады, себебі стохастикалық процесті функция кеңістігіндегі кездейсоқ элемент ретінде қарастыруға болады. «Стохастикалық процесс» және «кездейсоқ процесс» терминдері көбінесе кездейсоқ айнымалыларды индекстейтін жиын үшін нақты математикалық кеңістік көрсетілмей, бірін-бірі алмастырып қолданылады. Бірақ көбінесе бұл екі термин кездейсоқ айнымалылар бүтін сандармен немесе нақты түзудің аралығымен индекстелген кезде қолданылады. Стохастикалық процестің мәндері әрқашан сандар емес, векторлар немесе басқа математикалық объектілер болуы мүмкін. Мысалдар: мартингейлдер, Марков процестері, Леви процестері, Гаусс процестері, кездейсоқ өрістер, жаңару процестері және тармақталу процестері. Стохастикалық процестерді зерттеуде ықтималдық, есептеу, сызықтық алгебра, жиын теориясы және топология, сондай-ақ математикалық талдаудың нақты талдау, өлшем теориясы, Фурье талдау және функционалдық талдау сияқты салалары бойынша математикалық білім мен әдістер қолданылады. Стохастикалық процестер теориясы математикаға маңызды үлес қосқан деп есептеледі және теориялық негіздер мен қолданыстар үшін зерттеудің белсенді саласы болып табылады.

Collection of random variables

[[File:BMonSphere. jpg|thumb|A computer simulated realization of a Wiener or Brownian motion process on the surface of a sphere. The Wiener process is widely considered the most studied and central stochastic process in probability theory. Stochastic processes have applications in many disciplines such as biology, chemistry, ecology, neuroscience, physics, image processing, signal processing, control theory, information theory, computer science, and telecommunications. Furthermore, seemingly random changes in financial markets have motivated the extensive use of stochastic processes in finance. Applications and the study of phenomena have in turn inspired the proposal of new stochastic processes. Examples of such stochastic processes include the Wiener process or Brownian motion process, used by Louis Bachelier to study price changes on the Paris Bourse, and the Poisson process, used by A. K. Erlang to study the number of phone calls occurring in a certain period of time. These two stochastic processes are considered the most important and central in the theory of stochastic processes, and were invented repeatedly and independently, both before and after Bachelier and Erlang, in different settings and countries. The term random function is also used to refer to a stochastic or random process, because a stochastic process can also be interpreted as a random element in a function space. The terms stochastic process and random process are used interchangeably, often with no specific mathematical space for the set that indexes the random variables. But often these two terms are used when the random variables are indexed by the integers or an interval of the real line. The values of a stochastic process are not always numbers and can be vectors or other mathematical objects. martingales, Markov processes, Lévy processes, Gaussian processes, random fields, renewal processes, and branching processes. The study of stochastic processes uses mathematical knowledge and techniques from probability, calculus, linear algebra, set theory, and topology as well as branches of mathematical analysis such as real analysis, measure theory, Fourier analysis, and functional analysis. The theory of stochastic processes is considered to be an important contribution to mathematics and it continues to be an active topic of research for both theoretical reasons and applications.

Кіріспе

Стохастикалық немесе кездейсоқ процесс – математикалық жиынмен индекстелген кездейсоқ айнымалылардың жиынтығы ретінде анықталады, яғни стохастикалық процестің әрбір кездейсоқ айнымалысы жиынтықтағы нақты бір элементпен байланысты. Егер стохастикалық процестің индекс жиынтығында шекті немесе санаулы элементтер саны болса, мысалы, сандардың шекті жиынтығы, бүтін сандар жиынтығы немесе натурал сандар жиынтығы болса, онда бұл процесс дискретті уақыттық процесс деп аталады. Егер индекс жиынтығы нақты сандардың кез келген аралығы болса, онда уақыт үздіксіз деп есептеледі. Осы екі типтегі стохастикалық процестер тиісінше дискретті және үздіксіз уақыттық стохастикалық процестер деп аталады. Дискретті уақыттық стохастикалық процестерді зерттеу оңайырақ, себебі үздіксіз уақыттық процестерге көбірек математикалық техника мен білім қажет, әсіресе индекс жиынтығы санауға келмейтін болғандықтан. Егер индекс жиынтығы бүтін сандар немесе олардың кез келген ішкі жиынтығы болса, онда стохастикалық процесс кездейсоқ тізбек деп те аталуы мүмкін. Якоб Бернулли 1713 жылы латын тілінде жарық көрген «Ars Conjectandi sive Stochastice» атты ықтималдық туралы еңбегінде «смета жасау немесе стохастика өнері» деп аудалатын осы сөз тіркесін қолданды. Ладислаус Борткевич 1917 жылы неміс тілінде «стохастик» деген сөзді, кездейсоқ мағынасында қолданды және бұл ретте Бернуллиге сілтеме жасады. «Стохастикалық процесс» термині алғаш рет 1934 жылы Джозеф Дубтың ағылшын тіліндегі мақаласында пайда болды, бірақ неміс термині бұрын қолданылған, мысалы, Андрей Колмогоров 1931 жылы қолданған. Оксфорд ағылшын сөздігіндегі мәліметтерге сәйкес, «random» сөзінің қазіргі мағынасы – кездейсоқтық немесе сәттілікпен байланысты – алғаш рет 16 ғасырда қолданылған, ал одан бұрынғы жазбалар 14 ғасырға дейін барады, онда ол «қуаттылық, жоғары жылдамдық, күш немесе зорлық (атқа міну, жүгіру, соғу және т.б.)» деген мағынаны білдіретін есімдік ретінде қолданылған. Сөздің өзі «жылдамдық, асығу» деген мағынаны білдіретін орта француз тілінен шыққан және француз тіліндегі «жүгіру» немесе «шабуылдау» деген мағына беретін сөзден туындаған болуы мүмкін. «Кездейсоқ процесс» термині «стохастикалық процесс» терминінен бұрын жазылған, Оксфорд ағылшын сөздігінде оны синоним ретінде келтіреді және 1888 жылы Франсис Эджворттың мақаласында қолданылған.

A stochastic or random process can be defined as a collection of random variables that is indexed by some mathematical set, meaning that each random variable of the stochastic process is uniquely associated with an element in the set. When interpreted as time, if the index set of a stochastic process has a finite or countable number of elements, such as a finite set of numbers, the set of integers, or the natural numbers, then the stochastic process is said to be in discrete time. If the index set is some interval of the real line, then time is said to be continuous. The two types of stochastic processes are respectively referred to as discrete time and continuous time stochastic processes. Discrete time stochastic processes are considered easier to study because continuous time processes require more advanced mathematical techniques and knowledge, particularly due to the index set being uncountable. If the index set is the integers, or some subset of them, then the stochastic process can also be called a random sequence. In his work on probability Ars Conjectandi, originally published in Latin in 1713, Jakob Bernoulli used the phrase "Ars Conjectandi sive Stochastice", which has been translated to "the art of conjecturing or stochastics". This phrase was used, with reference to Bernoulli, by Ladislaus Bortkiewicz who in 1917 wrote in German the word stochastik with a sense meaning random. The term stochastic process first appeared in English in a 1934 paper by Joseph Doob. though the German term had been used earlier, for example, by Andrei Kolmogorov in 1931. According to the Oxford English Dictionary, early occurrences of the word random in English with its current meaning, which relates to chance or luck, date back to the 16th century, while earlier recorded usages started in the 14th century as a noun meaning "impetuosity, great speed, force, or violence (in riding, running, striking, etc.)". The word itself comes from a Middle French word meaning "speed, haste", and it is probably derived from a French verb meaning "to run" or "to gallop". The first written appearance of the term random process pre dates stochastic process, which the Oxford English Dictionary also gives as a synonym, and was used in an article by Francis Edgeworth published in 1888.

Терминология

Стохастикалық процестің анықтамасы әртүрлі болып келеді, бірақ дәстүрлі түрде ол белгілі бір жиынмен индекстелген кездейсоқ шамалардың жиынтығы ретінде анықталады. "Жиынтық" және "индекс жиынтығы" терминдерінің екеуі де қолданылады, ал кейде "параметрлер жиынтығы" термині де қолданылады, бірақ көбінесе бұл термин стохастикалық процесс нақты мәндерді қабылдаған кезде ғана қолданылады. Егер индекс жиынтығы уақыт ретінде қарастырылса, әдетте "стохастикалық процесс" және "кездейсоқ процесс" терминдері қолданылады, ал индекс жиынтығы өлшемді Евклид кеңістігі немесе көптеуір болған жағдайда "кездейсоқ өріс" сияқты басқа терминдер қолданылады. Кейбір авторлар функциялық нотацияны дұрыс емес қолданып, жаңсақ түрде жазады. Мысалы, немесе индексі бар кездейсоқ шаманы көрсету үшін қолданылады, бірақ бүкіл стохастикалық процесті емес. Яғни, Бернулли процесі – бұл тәуелсіз және бірдей үлестірімді (iid) Бернулли кездейсоқ шамаларының тізбегі, мұнда әрбір идеалданған монета лақтыруы Бернулли сынағының мысалы болып табылады.

Кездейсоқ жүру

Кездейсоқ жүріс – бұл әдетте Эвклид кеңістігінде тәуелсіз және бірдей үлестірімді (iid) кездейсоқ айнымалылардың немесе кездейсоқ векторлардың қосындысы ретінде анықталатын стохастикалық процестер, сондықтан олар дискретті уақытта өзгеретін процестер болып табылады. Бірақ кейбіреулер бұл терминді үздіксіз уақытта өзгеретін процестерді атау үшін де қолданады, әсіресе қаржылық модельдерде қолданылатын Винер процесін, бұл шатасуға және оның сынға ұшырауына әкелді. Кездейсоқ жүріс-тұрыстардың басқа да түрлері бар, олардың күй кеңістіктері торлар мен топтар сияқты басқа математикалық объектілер бола алады, және олар кеңінен зерттелген, сонымен қатар түрлі салаларда көптеген қолданысқа ие. Кездейсоқ жүрістің классикалық мысалы – қарапайым кездейсоқ жүріс, ол бүтін сандарды күй кеңістігі ретінде пайдаланатын дискретті уақыттағы стохастикалық процесс және Бернулли процесіне негізделген, онда әрбір Бернулли айнымалысы бір немесе минус бір мәнін қабылдайды. Басқаша айтқанда, қарапайым кездейсоқ жүріс бүтін сандар бойынша жүзеге асырылады, оның мәні, мысалы, *p* ықтималдығымен бірге артады немесе *1-p* ықтималдығымен бірге кемиді, сондықтан осы кездейсоқ жүрістің индекс жиыны – натурал сандар, ал күй кеңістігі – бүтін сандар. Егер *p* = 1/2 болса, бұл кездейсоқ жүріс симметриялық кездейсоқ жүріс деп аталады.

Винер процесі

Винер процесі – тұрақты және тәуелсіз арттыруларға ие стохастикалық процесс, олар арттырулардың мөлшеріне қарай қалыпты түрде бөлінеді. Винер процесі оның математикалық бар екенін дәлелдеген Норберт Винердің есімімен аталады, бірақ процесс сонымен қатар Браун қозғалысы процесі немесе жай ғана Браун қозғалысы деп те аталады, өйткені оның тарихи байланысы сұйықтықтардағы Браун қозғалысының моделі болып табылады. Винер процестерінің (немесе Браун қозғалысы процестерінің) дрейфпен және дрейфсіз іске асырылуы.
Ықтималдықтар теориясында орталық рөл атқаратын Винер процесі көбінесе ең маңызды және зерттелген стохастикалық процесс саналады, ол басқа стохастикалық процестермен байланысты. Оның индекс жиыны және күй кеңістігі тиісінше теріс емес сандар мен нақты сандар, сондықтан оның үздіксіз индекс жиыны және күй кеңістігі бар. Бірақ процесс жалпы жағдайда анықталуы мүмкін, сондықтан оның күй кеңістігі өлшемді Евклид кеңістігі болуы мүмкін. Кез келген арттырудың орташа мәні нөл болса, онда алынған Винер немесе Браун қозғалысы процесінің нөлдік дрейфі бар деп айтылады. Егер кез келген екі уақыт нүктесі үшін арттырудың орташа мәні уақыт айырмасына белгілі бір тұрақтыны көбейтуге тең болса (ол тұрақты – нақты сан), онда алынған стохастикалық процесс дрейфке ие деп айтылады.
Дерлік нақтылықпен, Винер процесінің үлгі жолы барлық жерде үздіксіз, бірақ еш жерде дифференциалдана бермейді. Оны қарапайым кездейсоқ жүрістің үздіксіз нұсқасы ретінде қарастыруға болады. Процесс басқа стохастикалық процестердің математикалық лиміті ретінде туындайды, мысалы, кейбір кездейсоқ жүрістер қайта масштабталғанда, бұл Донскер теоремасы немесе инвариантты принцип, сондай-ақ функционалдық орталық шек теоремасы деп аталады. Винер процесі – Марков процестері, Леви процестері және Гаусс процестері сияқты маңызды стохастикалық процестер отбасыларының мүшесі. Ол сандық қаржыда орталық рөл атқарады, мысалы, Black–Scholes–Merton моделінде қолданылады. Бұл процесс сонымен қатар табиғи ғылымдардың көпшілігі және әлеуметтік ғылымдардың кейбір салалары сияқты әртүрлі салаларда әртүрлі кездейсоқ құбылыстардың математикалық моделі ретінде қолданылады.

The Wiener process is a stochastic process with stationary and independent increments that are normally distributed based on the size of the increments. The Wiener process is named after Norbert Wiener, who proved its mathematical existence, but the process is also called the Brownian motion process or just Brownian motion due to its historical connection as a model for Brownian movement in liquids. thumb|left|Realizations of Wiener processes (or Brownian motion processes) with drift and without drift
Playing a central role in the theory of probability, the Wiener process is often considered the most important and studied stochastic process, with connections to other stochastic processes. Its index set and state space are the non negative numbers and real numbers, respectively, so it has both continuous index set and states space. But the process can be defined more generally so its state space can be dimensional Euclidean space. If the mean of any increment is zero, then the resulting Wiener or Brownian motion process is said to have zero drift. If the mean of the increment for any two points in time is equal to the time difference multiplied by some constant , which is a real number, then the resulting stochastic process is said to have drift
Almost surely, a sample path of a Wiener process is continuous everywhere but nowhere differentiable. It can be considered as a continuous version of the simple random walk. The process arises as the mathematical limit of other stochastic processes such as certain random walks rescaled, which is the subject of Donsker's theorem or invariance principle, also known as the functional central limit theorem. The Wiener process is a member of some important families of stochastic processes, including Markov processes, Lévy processes and Gaussian processes. It plays a central role in quantitative finance, where it is used, for example, in the Black–Scholes–Merton model. The process is also used in different fields, including the majority of natural sciences as well as some branches of social sciences, as a mathematical model for various random phenomena.

Пуассон процесі

Пуассон процесі – әр түрлі формалары мен анықтамалары бар стохастикалық процесс. Оны санау процесі деп анықтауға болады, яғни белгілі бір уақытқа дейін кездейсоқ нүктелер немесе оқиғалардың санын көрсететін стохастикалық процесс. Процестің нөлден белгілі бір уақыт аралығында орналасқан нүктелерінің саны, осы уақытқа және белгілі бір параметрге байланысты Пойсонның кездейсоқ айнымалысы болып табылады. Бұл процесс табиғи сандарды күй кеңістігі ретінде, ал теріс емес сандарды индекс жиынтығы ретінде қабылдайды. Бұл процесс сондай-ақ Пуассон санау процесі деп аталады, себебі оны санау процесінің мысалы ретінде қарастыруға болады. Гомогенді Пуассон процесі – Марков процестері мен Леви процестері сияқты маңызды стохастикалық процестер кластарының бір мүшесі. Егер Пуассон процесінің параметрлік тұрақтысы, теріс емес интегралданатын функциямен ауыстырылса, нәтижесінде пайда болған процесс негомогенді немесе гетерогенді Пуассон процесі деп аталады, онда процестің нүктелерінің орташа тығыздығы тұрақты болмайды. Кезек теориясындағы негізгі процесс ретінде қызмет ететін Пуассон процесі математикалық модельдер үшін маңызды болып табылады, және ол белгілі бір уақыт аралығында кездейсоқ оқиғалардың модельдерін құруда қолданылады. Нақты сызықта анықталған Пуассон процесін, басқа кездейсоқ объектілермен қатар стохастикалық процесс ретінде қарастыруға болады. Алайда, оны өлшемді Евклид кеңістігінде немесе басқа математикалық кеңістіктерде де анықтауға болады, онда ол көбінесе кездейсоқ жиынтық немесе кездейсоқ санау шарасы ретінде қарастырылады, процесс ретінде емес. Бірақ, Пуассон процесіне толыққанды назар берілмейді, себебі ол көбінесе тек нақты сызықта қарастырылады, ал басқа математикалық кеңістіктерде емес.

Стохастикалық процесс

Стохастикалық процесс – жалпы ықтималдық кеңістігінде анықталған кездейсоқ шамалардың жиынтығы, онда – мысал кеңістігі, – сигма-алгебра, ал – ықтималдық өлшемі; және кездейсоқ шамалар, белгілі бір жиынмен индекстелген, барлығы бірдей математикалық кеңістікте мәндер қабылдайды, олар белгілі бір сигма-алгебраға қатысты өлшенуі тиіс. Тарихи тұрғыдан алғанда, табиғат ғылымдарының көптеген мәселелерінде бір нүкте уақытты білдірген, сондықтан – уақыттың белгілі бір сәтінде байқалатын мәнді білдіретін кездейсоқ шама. Стохастикалық процесті екі айнымалының функциясы ретінде де жазуға болады, оның екі айнымалысы – және . Бұл стохастикалық процеске қараудың бір ғана тәсілі, ал жоғарыдағы анықтама дәстүрлі болып саналады. Мысалы, стохастикалық процесс – мәнді кездейсоқ шама ретінде қарастырылуы немесе анықталуы мүмкін, мұнда – жиынтықтан кеңістікке барлық мүмкін функциялардың кеңістігі.

Индекс жиынтығы

Жинақ стохастикалық процестің индекс жиыны деп аталады. Көбінесе бұл жиын нақты сандар түзуінің бір бөлігі болып келеді, мысалы, натурал сандар жиыны немесе интервал, осылайша жинаққа уақыт түсінігі беріледі. Сонымен қатар, бұл жиын Декарт жазықтығы немесе өлшемді Евклид кеңістігі болуы мүмкін, онда әрбір элемент кеңістіктегі нүктені көрсетеді. Алайда, көптеген нәтижелер мен теоремалар тек толығымен реттелген индекс жиынына ие стохастикалық процестер үшін ғана қолданылады.

Мемлекеттік кеңістік

Стохастикалық процестің математикалық кеңістігі оның күй кеңістігі деп аталады. Бұл математикалық кеңістік бүтін сандар, нақты сандар осі, өлшемді Евклид кеңістіктері, комплекс жазықтықтар немесе одан да абстрактілі математикалық кеңістіктер арқылы анықталуы мүмкін. Күй кеңістігі стохастикалық процестің қабылдай алатын әртүрлі мәндерді көрсететін элементтер арқылы анықталады.

Үлгілік функция

Үлгілік функция – стохастикалық процестің бір ғана мүмкін нәтижесі, сондықтан ол стохастикалық процестің әрбір кездейсоқ айнымалысының бір ғана мәнін қабылдау арқылы құралады. Нақтырақ айтқанда, егер – стохастикалық процесс болса, онда кез келген нүкте үшін , келесі бейнелеу

үлгілік функция, іске асырылу немесе, әсіресе егер уақыт ретінде қарастырылса, стохастикалық процестің үлгілік траекториясы деп аталады. Яғни, белгілі бір үшін, индекс жиынынан жай-күй кеңістігіне немесе траекторияға бейнелейтін үлгілік функция бар.

Сүзгілеу

Сүзгілеу – белгілі бір ықтималдық кеңістігіне және толық реттелу қатысы бар индекс жиынтығына қатысты анықталған сигма-алгебралардың өсу тізбегі, мысалы, индекс жиынтығы нақты сандардың бір бөлігі болған жағдайда. Әріптеу ретінде, егер стохастикалық процестің толық реті бар индекс жиынтығы болса, онда ықтималдық кеңістігіндегі сүзгілеу – сигма-алгебралардың отбасы болып табылады, осындай барлық үшін , мұндағы және индекс жиынтығының толық ретін білдіреді.

Өзгерістер

Стохастикалық процестің модификациясы – бастапқы стохастикалық процесспен тығыз байланысты басқа бір стохастикалық процесс. Нақтырақ айтқанда, егер бір стохастикалық процесс басқа бір стохастикалық процесс сияқты бірдей индекс жиынтығы, күй кеңістігі және ықтималдық кеңістігіне ие болса, онда ол процесс сол екінші процестің модификациясы деп аталады, егер барлық үшін келесі теңдік орындалса. Бір-бірінің модификациясы болып табылатын екі стохастикалық процестің шекті өлшемді заңдары бірдей болады және олар стохастикалық эквивалентті немесе эквивалентті деп аталады. Модификация орнына "нұсқа" термині де қолданылады. Алайда, кейбір авторлар екі стохастикалық процестің бірдей шекті өлшемді үлестірімі болған жағдайда ғана "нұсқа" терминін қолданады, бірақ олар әртүрлі ықтималдық кеңістіктерінде анықталған болуы мүмкін. Сондықтан, бір-бірінің модификациясы болып табылатын екі процесс, сонымен қатар, аталған авторлардың анықтамасына сәйкес, бір-бірінің нұсқалары болып табылады, бірақ керісіншесі міндетті емес. Бұл теорема кездейсоқ өрістерге де жалпыланады, яғни индекс жиынтығы өлшемді Евклид кеңістігі болуы мүмкін, сондай-ақ күй кеңістіктері ретінде метрикалық кеңістіктерге ие стохастикалық процестерге де қолданылады.

Бөлу мүмкіндігі

Бөлушілік – бұл ықтималдық өлшеміне қатысты индекс жиынтығына негізделген стохастикалық процестің қасиеті. Бұл қасиет кездейсоқ процестердің немесе кездейсоқ өрістердің функционалдары, олардың индекс жиынтығы санауға болмайтын болса, кездейсоқ шамалар құрауы үшін қабылданады. Стохастикалық процесс бөлінуі үшін, басқа шарттармен қатар, оның индекс жиынтығы нақты сызық немесе өлшемді Евклид кеңістігі сияқты анықталған бөлінетін кеңістік болуы керек. Жаңару және санау процестері сияқты басқа стохастикалық процестер нүктелік процестер теориясында зерттеледі, бірақ олардың ықтималдықтарына қатысты талдау өте аз жасалған. 1654 жыл француз математиктері Пьер Ферма мен Блез Паскальдың құмар ойындарға байланысты ықтималдық туралы хат алмасуымен ықтималдық теориясының туған жылы деп есептеледі. Алайда, осыған дейін Героламо Карданоның 16 ғасырда жазылған, бірақ 1663 жылы жарияланған "Liber de Ludo Aleae" сияқты құмар ойындардың ықтималдығына қатысты математикалық жұмыстар болған. Карданодан кейін Якоб Бернулли "Ars Conjectandi" еңбегін жазды, ол ықтималдық теориясы тарихындағы маңызды оқиға саналады. Пьер Симон Лаплас, Абрахам де Мойвр, Карл Гаус, Симеон Пуассон және Пафнути Чебышев сияқты белгілі математиктер ықтималдық теориясына үлес қосқанына қарамастан, 20 ғасырға дейін математикалық қауымның көп бөлігі ықтималдық теориясын математиканың бір бөлігі деп санамады.

Статистикалық механика

Физикалық ғылымдарда ғалымдар 19 ғасырда статистикалық механика пәнін дамытты, онда физикалық жүйелер, мысалы, газдармен толтырылған ыдыстар, көптеген қозғалатын бөлшектердің жиынтығы ретінде математикалық тұрғыдан қарастырылады. Кейбір ғалымдар, мысалы Рудольф Клаузиус, статистикалық физикаға кездейсоқтық енгізуге тырысқанмен, көптеген жұмыстарда кездейсоқтық аз немесе мүлдем болмады. Бұл 1859 жылы Джеймс Клерк Максвелл газдардың кинетикалық теориясына маңызды үлес қосып, газ бөлшектерін кездейсоқ бағытта және кездейсоқ жылдамдықпен қозғалатын модельдеу арқылы өзгерді. Газдардың кинетикалық теориясы мен статистикалық физика 19 ғасырдың екінші жартысында Клаузиус, Людвиг Болцман және Джозиа Гиббстің жұмыстарымен дамып, кейіннен Альберт Эйнштейннің броундық қозғалысқа арналған математикалық моделіне әсер етті.

Өлшем теориясы мен ықтималдық теориясы

1900 жылы Парижде өткен Халықаралық математиктер конгресінде Дэвид Гилберт математикалық проблемалардың тізімін ұсынды, онда оның алтыншы проблемасы физика және ықтималдық салаларын аксиомаларға негізделген математикалық тұрғыдан қарастыруды талап етті. Бұл мәселеде Андрей Колмогоров есімі де айтылды. 1930 жылдардың басында Хинчин мен Колмогоров ықтималдық семинарларын құрды, оларға Евгений Слуцкий және Николай Смирнов сияқты зерттеушілер қатысты. Хинчин нақты сандар осімен индекстелген кездейсоқ шамалар жиынтығы ретінде стохастикалық процестің алғашқы математикалық анықтамасын берді.

Бернулли процесі

Бернулли процесі, бұл бұрыс монетаны лақтырудың математикалық моделі ретінде пайдаланылуы мүмкін, алғаш зерттелген стохастикалық процесс болуы мүмкін. Бернуллидің жұмыстары, оның ішінде Бернулли процесі, 1713 жылы оның "Ars Conjectandi" кітабында жарияланды.

Кездейсоқ серуендеу

1905 жылы Карл Пирсон биологияда қолданылуға байланысты жазықтықта кездейсоқ жүріп өтуді сипаттау мәселесін қойғанда, «кездейсоқ жүріп өту» терминін енгізді, бірақ кездейсоқ жүріп өтуді қамтитын мұндай мәселелер басқа салаларда бұрын зерттелген. Ғасырлар бұрын зерттелген белгілі бір құмар ойындар кездейсоқ жүріп өту мәселесі ретінде қарастырылуы мүмкін және сіңіретін кедергілері бар кездейсоқ жүріп өтудің мысалы болып табылады. Паскаль, Ферма және Гюйгенс бұл мәселенің сандық шешімдерін әдістерін толық көрсетпестен берді, ал кейін Якоб Бернулли мен Абрахам де Муавр егжей-тегжейлі шешімдер ұсынды. Кездейсоқ жүріп өтудің өлшемдік бүтін санды торларында Джордж Поля 1919 және 1921 жылдары тордағы бұрынғы позицияға оралудың симметриялық кездейсоқ жүріп өту ықтималдығын зерттеген жұмысын жариялады. Поля симметриялық кездейсоқ жүріп өту, тордың кез келген бағытына тең ықтималдықпен жылжуға мүмкіндік беретін, бір және екі өлшемде ықтималдығы бір болса, үш немесе одан жоғары өлшемде ықтималдығы нөл болатынын көрсетті, тордың бұрынғы орнына шексіз рет оралатынын дәлелдеді.

Винер процесі

Винер процесі немесе Браун қозғалысы процесі статистика, қаржы және физика сияқты түрлі салаларда пайда болды. Бұл жұмыс қазір Калман сүзгісі деп аталатын статистикалық әдістің алғашқы ашылуы ретінде қарастырылады, бірақ бұл жұмыс көбінесе назардан тыс қалды. Тильдің мақаласындағы идеялар сол кездегі кең математикалық және статистикалық қауымдастыққа түсіну үшін тым жетілген деп есептеледі. Тильдің еңбегін білмей, Париж биржасындағы баға өзгерісін модельдеу үшін осылай істеді. Башельердің диссертациясы қаржы математикасының іргелі қадамы ретінде қарастырылады. Эйнштейннің жұмысы, сондай-ақ Жан Перриннің тәжірибелік нәтижелері кейіннен Норберт Винерге 1920 жылдары Перси Дэниеллдің және Фурье талдауының көмегімен Винер процесінің математикалық объект ретінде бар екенін дәлелдеу үшін өлшем теориясының бір түрін қолдануға түрткі болды. Пуассон процесінің алғашқы қолданылуы немесе ашылуы туралы бірнеше мәлімдемелер бар. 1909 жылы Данияда А.К. Эрланг шекті уақыт аралығында келіп түскен телефон қоңырауларының санын математикалық модельдеу кезінде Пуассон үлестірімін тудырды. Эрланг сол кезде Пуассонның бұрынғы жұмысынан хабарсыз болған және әр уақыт аралығында келіп түскен телефон қоңыраулары бір-біріне тәуелсіз деп есептеген. Ол содан кейін Пуассон үлестірімін биномдық үлестірістің шегі ретінде қайта жасайтын шектеу жағдайын тапты, бұл математикалық заңдардың күшінде болуы үшін қажетті талап ретінде қарастырылған. 1928 жылдан бастап Морис Фреше Марков тізбектеріне қызығушылық таныта бастады, нәтижесінде 1938 жылы Марков тізбектері туралы егжей-тегжейлі зерттеу жариялады. Андрей Колмогоров 1931 жылғы мақаласында үздіксіз уақыт Марков процестерінің алғашқы теориясының маңызды бөлігін жасады. Ол диффузиялық процестер деп аталатын Марков процестерінің нақты жиынтығын енгізіп, зерттеді, соның ішінде процестерді сипаттайтын дифференциалдық теңдеулер жиынтығын тудырды. Колмогоровтың жұмысынан тәуелсіз, Сидней Чапман 1928 жылғы мақаласында Браун қозғалысын зерттеу кезінде қазір Чапман-Колмогоров теңдеуі деп аталатын теңдеуді Колмогоровқа қарағанда математикалық жағынан аз қатаң түрде тудырды. Дифференциалдық теңдеулер қазір Колмогоров теңдеулері немесе Колмогоров-Чапман теңдеулері деп аталады. Марков процестерінің негіздеріне маңызды үлес қосқан басқа математиктер Уильям Феллер (1930 жылдардан бастап) және Евгений Динкин (1950 жылдардан бастап) болды. Леви, Хинчин және Колмогоровтан басқа, Леви процестерінің теориясына алғашқы маңызды үлес Бруно де Финетти және Киоси Ито жасады. Тағы бір тәсіл белгілі бір шекті өлшемді үлестірулері бар кездейсоқ айнымалылар жиынтығын анықтау және тиісті стохастикалық процестің бар екенін дәлелдеу үшін Колмогоровтың барлық теоремасын қолдану болып табылады. Егер кез келген шекті өлшемді үлестірулер екі талапқа жауап берсе, олар консистенттік шарттар деп аталады, онда осы шекті өлшемді үлестірулермен стохастикалық процесс бар. Бұл стохастикалық процестің үлестірілуі міндетті түрде стохастикалық процестің үлгілік функцияларының қасиеттерін бірегей түрде анықтамайды дегенді білдіреді. Тағы бір мәселе – индекс жиынтығының санаусыз нүктелеріне сүйенетін үздіксіз уақыт процесінің функциялары өлшенбейтін болуы мүмкін, сондықтан кейбір оқиғалардың ықтималдықтары дұрыс анықталмаған болуы мүмкін. Бөлушілік, үлгілік функциялардың қасиеттерін анықтау үшін, үлгілік функциялар индекс жиынтығындағы тығыз саналатын нүктелер жиынтығындағы олардың мәндерімен анықталады деп талап етеді. Сонымен қатар, егер стохастикалық процесс бөлінсе, онда индекс жиынтығының санаусыз нүктелерінің функциялары өлшенетін болады және олардың ықтималдықтарын зерттеуге болады. Кез келген метрикалық кеңістік күй кеңістігі ретінде үздіксіз уақыт стохастикалық процесі үшін. Мұндай стохастикалық процесті құру үшін стохастикалық процестің үлгілік функциялары кейбір қолайлы функция кеңістігіне жатады деп есептеледі, әдетте бұл Скорход кеңістігі, ол барлық оң жақты үздіксіз және сол жақты шегі бар функциялардан тұрады. Бұл тәсіл қазір ажыратылу шартынан гөрі көбірек қолданылады, бірақ осы тәсілге негізделген стохастикалық процесс автоматты түрде бөлінеді. Ажыратылу шарты аз қолданылса да, ол жалпырақ деп есептеледі, өйткені әрбір стохастикалық процестің бөлінетін нұсқасы бар.

The Wiener process or Brownian motion process has its origins in different fields including statistics, finance and physics. The work is now considered as an early discovery of the statistical method known as Kalman filtering, but the work was largely overlooked. It is thought that the ideas in Thiele's paper were too advanced to have been understood by the broader mathematical and statistical community at the time. in order to model price changes on the Paris Bourse, a stock exchange, without knowing the work of Thiele. and Bachelier's thesis is now considered pioneering in the field of financial mathematics. Einstein's work, as well as experimental results obtained by Jean Perrin, later inspired Norbert Wiener in the 1920s to use a type of measure theory, developed by Percy Daniell, and Fourier analysis to prove the existence of the Wiener process as a mathematical object. There are a number of claims for early uses or discoveries of the Poisson
process. Another discovery occurred in Denmark in 1909 when A. K. Erlang derived the Poisson distribution when developing a mathematical model for the number of incoming phone calls in a finite time interval. Erlang was not at the time aware of Poisson's earlier work and assumed that the number phone calls arriving in each interval of time were independent to each other. He then found the limiting case, which is effectively recasting the Poisson distribution as a limit of the binomial distribution. which had been commonly regarded as a requirement for such mathematical laws to hold. Starting in 1928, Maurice Fréchet became interested in Markov chains, eventually resulting in him publishing in 1938 a detailed study on Markov chains. Andrei Kolmogorov developed in a 1931 paper a large part of the early theory of continuous time Markov processes. He introduced and studied a particular set of Markov processes known as diffusion processes, where he derived a set of differential equations describing the processes. Independent of Kolmogorov's work, Sydney Chapman derived in a 1928 paper an equation, now called the Chapman–Kolmogorov equation, in a less mathematically rigorous way than Kolmogorov, while studying Brownian movement. The differential equations are now called the Kolmogorov equations or the Kolmogorov–Chapman equations. Other mathematicians who contributed significantly to the foundations of Markov processes include William Feller, starting in the 1930s, and then later Eugene Dynkin, starting in the 1950s. In addition to Lévy, Khinchin and Kolomogrov, early fundamental contributions to the theory of Lévy processes were made by Bruno de Finetti and Kiyosi Itô. Another approach involves defining a collection of random variables to have specific finite dimensional distributions, and then using Kolmogorov's existence theorem to prove a corresponding stochastic process exists. says that if any finite dimensional distributions satisfy two conditions, known as consistency conditions, then there exists a stochastic process with those finite dimensional distributions. This means that the distribution of the stochastic process does not, necessarily, specify uniquely the properties of the sample functions of the stochastic process. Another problem is that functionals of continuous time process that rely upon an uncountable number of points of the index set may not be measurable, so the probabilities of certain events may not be well defined. Separability ensures that infinite dimensional distributions determine the properties of sample functions by requiring that sample functions are essentially determined by their values on a dense countable set of points in the index set. Furthermore, if a stochastic process is separable, then functionals of an uncountable number of points of the index set are measurable and their probabilities can be studied. for a continuous time stochastic process with any metric space as its state space. For the construction of such a stochastic process, it is assumed that the sample functions of the stochastic process belong to some suitable function space, which is usually the Skorokhod space consisting of all right continuous functions with left limits. This approach is now more used than the separability assumption, but such a stochastic process based on this approach will be automatically separable. Although less used, the separability assumption is considered more general because every stochastic process has a separable version.