Кіріспе

Ықтималдық теориясының саласы

Ықтималдық теориясында үлкен ауытқулар теориясы ықтималдық үлестірілімдер тізбектерінің қашықталған құйрықтарының асимптотикалық мінез-құлқымен айналысады. Теорияның кейбір негізгі идеялары Лапласқа дейін жетеді, бірақ формалдану сақтандыру математикасымен, атап айтқанда Крамер мен Лундбергтің банкроттық теориясымен басталды. Үлкен ауытқулар теориясының біріңғай формалдануы 1966 жылы Варадханның жұмысында жасалды. Үлкен ауытқулар теориясы өлшемдердің шоғырлануының эвристикалық идеяларын формалдайды және ықтималдық өлшемдердің жуықтасуы түсінігін кеңінен жалпылайды. Қарапайым тілмен айтқанда, үлкен ауытқулар теориясы белгілі бір экстремалды немесе құйрықтық оқиғалардың ықтималдық өлшемдерінің экспоненциалды түрде төмендеуімен айналысады.

Бастауыш үлгі

Адал монетаны бірінен кейін бірі лақтыруды қарастырайық. Мүмкін болатын нәтижелер – «сырғақ» немесе «қиыр». I-ші тастаудың мүмкін нәтижесін 1-ге (сырғақ үшін), ал 0-ге (қиыр үшін) кодтаймыз. Енді N тастаудан кейінгі орташа мәнді деп белгілейік, яғни:

Онда 0 мен 1 арасында жатады. Үлкен сандар заңынан N өскен сайын, үлестірімі (бір монетаны лақтырудың күтілетін мәні) -ге жуықтайды. Сонымен қатар, орталық шектеу теоремасы бойынша, үлкен N үшін шамамен қалыпты үлестірімге ие. Орталық шектеу теоремасы үлкен сандар заңынан гөрі үлкен N-дегі мінез-құлқы туралы толыққанды ақпарат бере алады. Мысалы, біз мәнінен үлкен болу ықтималдығының құйрық ықтималдығын шамамен табуға болады, белгілі бір мәні үшін. Алайда, егер -ден алыс болса және N жеткілікті үлкен болмаса, орталық шектеу теоремасымен жасалған жуықтау дәл болмауы мүмкін. Сонымен қатар, ол құйрық ықтималдықтарының өскендегі жуықтасуы туралы ақпарат бермейді. Бірақ үлкен ауытқулар теориясы мұндай мәселелерге жауап бере алады. Бұл тұжырымды нақтылайық. берілген мәні үшін, құйрық ықтималдығын есептейік. Келесіні анықтаймыз:

Функция – дөңес, теріс емес функция, ол жерінде нөлге тең және -ге жақындағанда артады. Бұл Бернулли энтропиясының теріс мәні; Бернулли сынағына қолданылатын асимптотикалық тең бөліну қасиетінен монета лақтыруға сәйкес келеді. Содан кейін Чернофф теңсіздігі арқылы, бұл шекті барлық оң сандар үшін қатаң теңсіздік беретін үлкен санмен алмастыруға болмайтындығы көрсетіледі (Экспоненциалды шекті әлі де дәрежелі субекспоненциалдық фактормен азайтуға болады; бұл Бернулли үлестірімінде пайда болатын биномдық коэффициентке қолданылатын Стирлинг жуықтауынан туындайды). Сондықтан, келесі нәтижеге жетеміз:

Ықтималдық x-ке тәуелді жылдамдықпен экспоненциалды түрде төмендейді. Бұл формула i.i.d. айнымалылардың үлгілік орта мәнінің кез келген құйрық ықтималдығын шамалайды және оның үлгілер санының өсуімен жуықтасуын көрсетеді.

Тәуелсіз кездейсоқ айнымалылар қосындысының орташа ауытқулары

Алдыңғы мысал оқиғаның ықтималдығын басқарды, яғни, нақты жиынтықтағы заңның шоғырлануын. Кейбір тізбектер үшін оқиғаның ықтималдығын басқару да мүмкін. Төменде орташа ауытқулар принципінің мысалы келтірілген: Атап айтқанда, шекті жағдай – орталық шектеу теоремасы.

Қысқаша тарихы

Үлкен ауытқулар туралы алғашқы қатаң нәтижелерді швед математигі Харальд Крамер берген, ол оларды сақтандыру бизнесін модельдеу үшін қолданды. Сақтандыру компаниясының тұрғысынан алғанда, табыс ай сайынғы тұрақты мөлшерде (айлық сыйлықақы) түседі, ал талаптар кездейсоқ болып келеді. Компания белгілі бір кезеңде (әсіресе, көп ай бойы) табысты болуы үшін, жалпы табыс жалпы талаптан асып түсуі керек. Сондықтан сыйлықақыны есептеу үшін мына сұраққа жауап беру қажет: "Қандай сыйлықақыны таңдау керек, сонда ай ішіндегі жалпы талап мөлшерінен кем болуы тиіс?" Бұл сұрақ үлкен ауытқулар теориясының өзі қоятын сұрақ. Крамер i.i.d. кездейсоқ шамалар үшін осы мәселенің шешімін берді, онда жылдамдық функциясы қуат қатары түрінде өрнектеледі. Маңызды жетістіктерге қол жеткізген математиктердің толық емес тізіміне Петров, Санов, С.Р.С. Варадхан (теорияға қосқан үлесі үшін Абель сыйлығының иегері), Д. Руэлл, О.Э. Ланфорд, Амир Дембо және Офер Зейтуни кіреді.

Қолданбалар

Ірі ауытқулар принциптері ықтималдық модельден ақпарат алу үшін тиімді қолданылуы мүмкін. Осылайша, үлкен ауытқулар теориясы ақпараттық теория және тәуекелді басқару салаларында қолданыс табады. Физикада үлкен ауытқулар теориясының ең белгілі қолданылуы термодинамика мен статистикалық механикада (энтропияны жылдамдық функциясымен байланыстыру арқылы) кездеседі.

Үлкен ауытқулар мен энтропия

Ауыспалылық функциясы статистикалық механикадағы энтропиямен байланысты. Мұны эвристикалық тұрғыдан келесідей түсінуге болады. Статистикалық механикадағы белгілі бір макрокүйдің энтропиясы осы макрокүйге сәйкес келетін микрокүйлер санына байланысты. Біздің монета лақтыру мысалымызда орташа мән белгілі бір макрокүйді білдіре алады. Ал, белгілі бір мәнді тудыратын сырға-құйрық тізбегі белгілі бір микрокүйді құрайды. Шамамен айтқанда, макрокүйге көптеген микрокүйлер тудырса, онда энтропиясы жоғары болады. Энтропиясы жоғары күйдің нақты эксперименттерде іске асу ықтималдығы зор. Орташа мәні 1/2 (сырға мен құйрық саны тең) макрокүйге одан көп микрокүйлер тудырады және ол шынымен де энтропиясы ең жоғары күй. Көптеген жағдайларда көптеген сынақтар үшін осы макрокүйді алуға болады. "Ауыспалылық функциясы" керісінше, белгілі бір макрокүйдің пайда болу ықтималдығын өлшейді. Ауыспалылық функциясы неғұрлым кіші болса, макрокүйдің пайда болу мүмкіндігі соғұрлым жоғары. Біздің монета лақтыруда "ауыспалылық функциясының" мәні орташа мәні 1/2 тең болғанда нөлге тең. Осылайша "ауыспалылық функциясын" "энтропияның" теріс мәні ретінде қарастыруға болады. Үлкен ауытқулар теориясындағы "ауыспалылық функциясы" мен Куллбек-Лейблер дивергенциясы арасында байланыс бар, бұл байланыс Санов теоремасымен орнатылған (Сановтың 14.5 тарауына қараңыз). Ерекше жағдайда үлкен ауытқулар Громов-Хаусдорф лимиттері тұжырымдамасымен тығыз байланысты.