Ықтималдық туралы мақала: Кромвель ережесі, бұл ереже 0 немесе 1 ықтималдығын бермеуді, дәлелге қарамастан, қалай өзгертетінін түсіндіреді. Бұл Байес теоремасына әсер етеді.
Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
Ықтималдық
Probability
Статистик Дэннис Линдлидің атымен аталған Кромвель ережесі, логикалық тұрғыдан дұрыс немесе жалған мәлімдемелерге қолданған жағдайларды қоспағанда, 1 ("оқиға міндетті түрде орын алады") немесе 0 ("оқиға міндетті түрде орын алмайды") алдын ала ықтималдықтарын пайдаланудан аулақ болу қажеттігін көрсетеді, мысалы, 2 + 2 = 4. Бұл сілтеме Оливер Кромвельге жасалған, ол 1650 жылдың 3 тамызында, Дунбар шайқасынан аз уақыт бұрын Шотландия шіркеуінің Бас ассамблеясына хат жазып, онда кеңінен танымал және жиі цитаталанатын сөз тіркесін келтірген:
Cromwell's rule, named by statistician Dennis Lindley, states that the use of prior probabilities of 1 ("the event will definitely occur") or 0 ("the event will definitely not occur") should be avoided, except when applied to statements that are logically true or false, such as 2 + 2 equaling 4. The reference is to Oliver Cromwell, who wrote to the General Assembly of the Church of Scotland on 3 August 1650, shortly before the Battle of Dunbar, including a phrase that has become well known and frequently quoted:
Линдлидің айтуынша, ықтималдық тағайындау "айдың жасыл ірімшіктен жасалуының мүмкіндігін қалдыру керек; ол миллионда біреудей шағын болуы мүмкін, бірақ оны сол күйінде қалдырыңыз, әйтпесе айтқандай ірімшіктің үлгілерін әкелген астронавттар армиясы сізді әсер қалдырмайды". Сол сияқты, монетаны лақтырғанда, сыртын жоғары қаратып түсуінің ықтималдығын бағалау кезінде, монета шетіне түсіп, сол күйде қалуының аз ғана мүмкіндігі бар. Егер гипотезаға тағайындалған алдын ала ықтималдық 0 немесе 1 болса, онда Бейес теоремасы бойынша, кейінгі ықтималдық (дәлелдер берілген гипотезаның ықтималдығы) да 0 немесе 1 болуға мәжбүр болады; қаншалықты күшті болса да, ешқандай дәлел әсер ете алмайды. Кромвель ережесінің күшейтілген нұсқасы арифметика мен логиканың мәлімдемелеріне де қолданылады, ықтималдықтың бірінші ережесін немесе дөңгелек ережесін 0 ≤ Pr(A) ≤ 1-ден 0 < Pr(A) < 1-ге өзгертеді.
As Lindley puts it, assigning a probability should "leave a little probability for the moon being made of green cheese; it can be as small as 1 in a million, but have it there since otherwise an army of astronauts returning with samples of the said cheese will leave you unmoved". Similarly, in assessing the likelihood that tossing a coin will result in either a head or a tail facing upwards, there is a possibility, albeit remote, that the coin will land on its edge and remain in that position. If the prior probability assigned to a hypothesis is 0 or 1, then, by Bayes' theorem, the posterior probability (probability of the hypothesis, given the evidence) is forced to be 0 or 1 as well; no evidence, no matter how strong, could have any influence. A strengthened version of Cromwell's rule, applying also to statements of arithmetic and logic, alters the first rule of probability, or the convexity rule, 0 ≤ Pr(A) ≤ 1, to 0 < Pr(A) < 1.
Бейес дивергенциясы (пессимистік)
Байестік пікірлердің айырмашылығының мысалы Шарон Бертч МакГрейннің 2011 жылғы кітабының А қосымшасына негізделген. Тим мен Сюзан екі әділ монетасы және бір әділ емес монетасы (екі жағы да бас) бар бейтаныс адамның екі әділ монетаның біреуін немесе әділ емес монетаны таңдап лақтырған-жоқ па деген мәселеде келіспейді; бейтаныс монетасының біреуін үш рет лақтырғанда, әр жолы бас шыққан. Тим бейтаныс монетаны кездейсоқ таңдады деп есептейді, яғни, әр монетаның таңдалуының алдын ала ықтималдығы 1/3-ке тең. Байестік қорытындыны қолданып, Тим үш қатарынан бас түсуінің әділ емес монета арқылы орындалу ықтималдығы 80% дейді, себебі әрбір әділ монета үш қатарынан бас түсуінің 1/8 ықтималдығы бар, ал әділ емес монетаның 8/8 ықтималдығы бар; 24 бірдей ықтимал жағдайдың ішінде, байқаулармен сәйкес келетін 10 жағдайдың 8-і әділ емес монетадан шықты. Егер монетаны тағы лақтырса, әр бас түсуі монетаның әділ емес болу ықтималдығын арттырады. Егер ешқандай құйрық түспесе, бұл ықтималдық 1-ге жуықтайды. Бірақ егер құйрық түссе, монетаның әділ емес болу ықтималдығы бірден 0-ге төмендейді және осы мәнде қалады. Сюзан бейтаныс адамның әділ монетаны таңдады деп есептейді (демек, лақтырылған монетаның әділ емес болуының алдын ала ықтималдығы 0). Осыған сәйкес, Сюзан үш (немесе кез келген қатарынан бас) әділ емес монетамен лақтырылуының ықтималдығы 0 болуы керек деп есептейді; егер одан да көп бас түссе, Сюзан өзінің ықтималдығын өзгертпейді. Тим мен Сюзанның ықтималдықтары монетаны көбірек лақтырған сайын бір-біріне жақындамайды.
An example of Bayesian divergence of opinion is based on Appendix A of Sharon Bertsch McGrayne's 2011 book. Tim and Susan disagree as to whether a stranger who has two fair coins and one unfair coin (one with heads on both sides) has tossed one of the two fair coins or the unfair one; the stranger has tossed one of his coins three times and it has come up heads each time. Tim assumes that the stranger picked the coin randomly – i. e., assumes a prior probability distribution in which each coin had a 1/3 chance of being the one picked. Applying Bayesian inference, Tim then calculates an 80% probability that the result of three consecutive heads was achieved by using the unfair coin, because each of the fair coins had a 1/8 chance of giving three straight heads, while the unfair coin had an 8/8 chance; out of 24 equally likely possibilities for what could happen, 8 out of the 10 that agree with the observations came from the unfair coin. If more flips are conducted, each further head increases the probability that the coin is the unfair one. If no tail ever appears, this probability converges to 1. But if a tail ever occurs, the probability that the coin is unfair immediately goes to 0 and stays at 0 permanently. Susan assumes the stranger chose a fair coin (so the prior probability that the tossed coin is the unfair coin is 0). Consequently, Susan calculates the probability that three (or any number of consecutive heads) were tossed with the unfair coin must be 0; if still more heads are thrown, Susan does not change her probability. Tim and Susan's probabilities do not converge as more and more heads are thrown.
Бейес конвергенциясы (оптимистік)
Байестік пікірлердің жақындасуының мысалы Нейт Сильвердің 2012 жылғы «Сигнал және шу: Неліктен көптеген болжамдар сәтсіз аяқталады, ал кейбіреулері орындалады» кітабында келтірілген. «Егер бір адам қандай да бір нәрсенің ықтималдығы 0 (нөл) пайыз десе, ал екінші адам 100 пайыз десе, олардың арасындағы пікір таласы ешқандай нәтиже бермейді» деген тұжырымнан кейін, Сильвер үш инвестордың акция нарығы өркендеп жатыр деген бастапқы болжамдарымен – 10%, 50% және 90% – басталатын симуляцияны сипаттайды. Симуляцияның соңында (графикте көрсетілгендей), «барлық инвесторлар нарықтың өркендеп жатыр дегеніне дерлік 100 пайыз сенімділікпен (әрине, нақты 100% емес) келіседі».
An example of Bayesian convergence of opinion is in Nate Silver's 2012 book The Signal and the Noise: Why so many predictions fail – but some don't. After stating that "Absolutely nothing useful is realized when one person who holds that there is a 0 (zero) percent probability of something argues against another person who holds that the probability is 100 percent", Silver describes a simulation where three investors start out with initial guesses of 10%, 50% and 90% that the stock market is in a bull market; by the end of the simulation (shown in a graph), "all of the investors conclude they are in a bull market with almost (although not exactly of course) 100 percent certainty".