Байес статистикасының теориясы

Кіріспе

Статистика саласындағы теория – Байес статистикасы (баезиандық статистика) – статистика саласындағы теория, ол Байес түсінігіне негізделген ықтималдық туралы түсінікке негізделген, онда ықтималдылық оқиғаға сену дәрежесін көрсетеді. Сену дәрежесі оқиға туралы бұрынғы білімге, мысалы, бұрынғы тәжірибелердің нәтижелеріне немесе оқиғаға қатысты жеке сенімдерге негізделуі мүмкін. Бұл, мысалы, жиіліктік түсіндірме сияқты, ықтималдықтың басқа да көптеген түсіндірмелерінен өзгеше, ол ықтималдықты көптеген тәжірибелерден кейін оқиғаның салыстырмалы жиілігінің лимиті ретінде қарастырады. Нақтырақ айтқанда, Байес әдістеріндегі талдау бұрынғы білімді алдын ала үлестірім түрінде кодификациялайды. Байес статистикалық әдістері жаңа деректер алынғаннан кейін ықтималдықтарды есептеу және жаңарту үшін Байес теоремасын қолданады. Байес теоремасы деректерге, сондай-ақ оқиға туралы немесе оқиғамен байланысты жағдайлар туралы бұрынғы ақпаратқа немесе сенімге негізделген оқиғаның шартты ықтималдығын сипаттайды. Мысалы, Байес қорытындысында Байес теоремасын ықтималдық үлестірімі немесе статистикалық модельдің параметрлерін бағалау үшін қолдануға болады. Байес статистикасы ықтималдықты сену дәрежесі ретінде қарастыратындықтан, Байес теоремасы параметрге немесе параметрлер жиынтығына сенуді сандық өлшеуге мүмкіндік беретін ықтималдық үлестірімін тікелей тағайындай алады. Лаплас бірқатар статистикалық мәселелерді шешу үшін қазір Байес деп саналатын әдістерді қолданды. Көптеген Байес әдістерін кейінгі авторлар жасады, бірақ бұл термин 1950 жылдарға дейін мұндай әдістерді сипаттау үшін кеңінен қолданылмады. 20 ғасырдың көп бөлігінде философиялық және практикалық қарастарға байланысты көптеген статистиктер Байес әдістерін жағымсыз бағалады. Көптеген Байес әдістері толыққанды есептеуді қажет етті, ал ғасыр бойында кеңінен қолданылған әдістердің көпшілігі жиіліктік түсіндірмеге негізделген. Алайда, қуатты компьютерлердің және Марков тізбегі Монте-Карло сияқты жаңа алгоритмдердің пайда болуымен, 21 ғасырда статистикада Байес әдістерінің қолданылуы артып келеді.

Theory in the field of statistics

Bayesian statistics ('/b//eɪ//z//i//ən/ BAYzeeən or '/b//eɪ//ʒ//ən/ BAYzhən) is a theory in the field of statistics based on the Bayesian interpretation of probability, where probability expresses a degree of belief in an event. The degree of belief may be based on prior knowledge about the event, such as the results of previous experiments, or on personal beliefs about the event. This differs from a number of other interpretations of probability, such as the frequentist interpretation, which views probability as the limit of the relative frequency of an event after many trials. More concretely, analysis in Bayesian methods codifies prior knowledge in the form of a prior distribution. Bayesian statistical methods use Bayes' theorem to compute and update probabilities after obtaining new data. Bayes' theorem describes the conditional probability of an event based on data as well as prior information or beliefs about the event or conditions related to the event. For example, in Bayesian inference, Bayes' theorem can be used to estimate the parameters of a probability distribution or statistical model. Since Bayesian statistics treats probability as a degree of belief, Bayes' theorem can directly assign a probability distribution that quantifies the belief to the parameter or set of parameters. Laplace used methods that would now be considered Bayesian to solve a number of statistical problems. Many Bayesian methods were developed by later authors, but the term was not commonly used to describe such methods until the 1950s. During much of the 20th century, Bayesian methods were viewed unfavorably by many statisticians due to philosophical and practical considerations. Many Bayesian methods required much computation to complete, and most methods that were widely used during the century were based on the frequentist interpretation. However, with the advent of powerful computers and new algorithms like Markov chain Monte Carlo, Bayesian methods have seen increasing use within statistics in the 21st century.

Бейз теоремасы

Бейес теоремасы жаңа деректер алынғаннан кейін ықтималдықтарды жаңарту үшін Бейес әдістерінде қолданылады. Екі оқиға және берілген жағдайдағы шартты ықтималдығы былай өрнектеледі:

мұнда Байес теоремасы ықтималдық теориясының негізгі нәтижесі болғанымен, оның Бейес статистикасында нақты түсіндірмесі бар. Жоғарыдағы теңдеуде әдетте бір ұсынысты білдіреді (мысалы, монетаның елу пайыз жағдайда сырға түсетіні туралы мәлімдеме), ал – дәлелді, яғни ескерілуге тиіс жаңа деректерді (мысалы, монетаны бірнеше рет лақтырудың нәтижесі). – бұл алдын ала ықтималдық, ол дәлелдерді ескере алмайынша, ұсынысқа қатысты сенімді білдіреді. Алдын ала ықтималдық сонымен қатар туралы алдыңғы білімді немесе ақпаратты мөлшерлеуі мүмкін. – ықтималдық функциясы, оны егер шын болса, дәлелдің болу ықтималдығы ретінде түсіндіруге болады. Ықтималдық дәлелдің ұсынысты қаншалықты қолдайтынын көрсетеді. – бұл кейіннен алынған ықтималдық, дәлелді ескергеннен кейін ұсыныстың ықтималдығы. Қысқасы, Бейес теоремасы жаңа дәлелдерді қарастырғаннан кейін бұрынғы сенімді жаңартады. Классикалық жиіліктік шешімдерде модель параметрлері мен гипотезалар тұрақты деп есептеледі. Жиіліктік шешімдерде ықтималдықтар параметрлерге немесе гипотезаларға тағайындалмайды. Мысалы, жиіліктік шешімдерде бір рет қана болатын оқиғаға, мысалы, әділ монетаның келесі лақтыруының нәтижесіне тікелей ықтималдық тағайындаудың мәні жоқ. Алайда, монета лақтырулар саны артқан сайын, "сырға" түсу үлесі жартысына жуықтайтынын айту орынды. Статистикалық модельдер үлгілік деректердің қалай жасалатынын көрсететін статистикалық болжамдар мен процестер жиынтығын анықтайды. Статистикалық модельдерде өзгертуге болатын бірнеше параметрлер бар. Мысалы, монетаны екі мүмкін нәтижені үлгілейтін Бернулли таралымының үлгілері ретінде бейнелеуге болады. Бернулли таралымының бір параметрі бір нәтиженің ықтималдығына тең, көбінесе бұл сырға түсу ықтималдығы. Деректер үшін жақсы модель құру Бейес шешімдерінде маңызды рөл атқарады. Көп жағдайларда модельдер нақты процесті жуықтап ғана келтіреді және деректерге әсер ететін кейбір факторларды ескермейді.

where Although Bayes' theorem is a fundamental result of probability theory, it has a specific interpretation in Bayesian statistics. In the above equation, usually represents a proposition (such as the statement that a coin lands on heads fifty percent of the time) and represents the evidence, or new data that is to be taken into account (such as the result of a series of coin flips). is the prior probability of which expresses one's beliefs about before evidence is taken into account. The prior probability may also quantify prior knowledge or information about is the likelihood function, which can be interpreted as the probability of the evidence given that is true. The likelihood quantifies the extent to which the evidence supports the proposition is the posterior probability, the probability of the proposition after taking the evidence into account. Essentially, Bayes' theorem updates one's prior beliefs after considering the new evidence In classical frequentist inference, model parameters and hypotheses are considered to be fixed. Probabilities are not assigned to parameters or hypotheses in frequentist inference. For example, it would not make sense in frequentist inference to directly assign a probability to an event that can only happen once, such as the result of the next flip of a fair coin. However, it would make sense to state that the proportion of heads approaches one half as the number of coin flips increases. Statistical models specify a set of statistical assumptions and processes that represent how the sample data are generated. Statistical models have a number of parameters that can be modified. For example, a coin can be represented as samples from a Bernoulli distribution, which models two possible outcomes. The Bernoulli distribution has a single parameter equal to the probability of one outcome, which in most cases is the probability of landing on heads. Devising a good model for the data is central in Bayesian inference. In most cases, models only approximate the true process, and may not take into account certain factors influencing the data.

Статистикалық модельдеу

Байес статистикасын қолданатын статистикалық модельдерді құрудың ерекшелігі – кез келген белгісіз параметрлер үшін алдын ала таралымды көрсету қажеттілігі. Шындығында, алдын ала таралымдардың параметрлерінің өзі алдын ала таралымдарға ие болуы мүмкін, бұл Байес иерархиялық модельдеуге, сондай-ақ көп деңгейлі модельдеуге алып келеді. Байес желілері – ерекше жағдай. Байес статистикалық талдау жүргізу үшін ең жақсы тәжірибелер ван де Шут және авторлар тобы тарапынан талқыланады. Байес статистикалық талдау нәтижелерін есептеу үшін Джон К. Крушке ашық қолжетімді мақаласында Байес талдауын есептеу жөніндегі нұсқаулар (BARG) ұсынады.

Тәжірибелерді жобалау

Байестік тәжірибелік жобалау "алдын ала сенімнің әсері" деп аталатын ұғымды қамтиды. Бұл тәсіл келесі эксперименттің жобалауына бұрынғы эксперименттердің нәтижелерін қосу үшін ретті талдау әдістерін пайдаланады. Бұл алдыңғы және кейінгі үлестіруді қолдану арқылы "сенімдерді" жаңарту арқылы қол жеткізіледі. Бұл эксперименттерді жобалауда барлық түрдегі ресурстарды тиімді пайдалануға мүмкіндік береді. Мысалы, көпқолды қарақшы мәселесін қарастыруға болады.