Кіріспе

Статистикалық принцип. Статистикалық модель және оған байланысты белгісіз параметрге қатысты статистика, егер "сол үлгіден есептелетін ешқандай басқа статистика параметрдің мәні туралы қосымша ақпаратты қамтамаса" жеткілікті болып есептеледі. Атап айтқанда, статистика, егер одан есептелген үлгіде статистикадан басқа қосымша ақпарат болмаса, ықтималдық үлестірімдер отбасына жеткілікті, яғни осы ықтималдық үлестірімдердің қайсысы іріктеме үлестірімі екенін анықтауға мүмкіндік бермейді. Бұған байланысты түсінік – сызықтық жеткіліктілік, ол жеткіліктіліктен әлсіз, бірақ сызықтық бағалаушылармен шектелген жағдайларда, жеткілікті статистика болмағанда қолданылуы мүмкін. Колмогоров құрылымдық функциясы жекеше шекті деректермен жұмыс істейді; осыған байланысты түсінік – алгоритмдік жеткілікті статистика. Бұл ұғым 1920 жылы сэр Рональд Фишерге тиесілі. Стивен Стиглер 1973 жылы жеткіліктілік ұғымының таралу формасы туралы болжамдарға күшті тәуелділігіне байланысты сипаттамалық статистикада қолданылуын тоқтатқанын атап өтті (төмендегі Питман-Купман-Дармои теоремасын қараңыз), бірақ теориялық жұмыстарда маңыздылығын сақтап қалды.

Өмірбаян

Шамамен айтқанда, белгісіз параметрге байланысты тәуелсіз және бірдей таралымды деректер жиынын қарастыра отырып, жеткілікті статистика – бұл параметрдің кез келген бағасын есептеу үшін қажетті барлық ақпаратты қамтитын функция (мысалы, максималды ықтималдық бағасы). Факторлау теоремасына сәйкес (төменде қараңыз), жеткілікті статистика үшін ықтималдық тығыздығы мына түрде жазылуы мүмкін. Осы факторлаудан, максималды ықтималдық бағасы тек қана арқылы өзара әрекеттесетінін көру оңай. Әдетте, жеткілікті статистика деректердің қарапайым функциясы болады, мысалы, барлық дерек нүктелерінің қосындысы. Көбінесе, «белгісіз параметр» белгісіз шамалардың векторын білдіруі мүмкін немесе модельдің белгісіз немесе толыққанды анықталмаған барлық аспектілерін көрсете алады. Мұндай жағдайда жеткілікті статистика функциялар жиынтығы болуы мүмкін, бұл бірлескен жеткілікті статистика деп аталады. Әдетте, функциялар саны параметрлер санымен сәйкес келеді. Мысалы, белгісіз орташа және дисперсиясы бар Гаусс таралымы үшін, екі параметрдің де максималды ықтималдық бағалауын алуға болатын бірлескен жеткілікті статистика екі функциядан тұрады: барлық дерек нүктелерінің қосындысы және барлық дерек нүктелерінің квадраттарының қосындысы (немесе эквивалентті түрде, үлгі орташасы және үлгі дисперсиясы). Басқаша айтқанда, деректердің бірлескен ықтималдық таралымы, жеткілікті статистиканың параметрлік мәні берілгенде, параметрге шартты түрде тәуелсіз болады. Статистика және негізгі параметр екеуі де векторлар болуы мүмкін.

Математикалық анықтамасы

t = T(X) статистикасы негізгі параметр θ үшін жеткілікті, егер деректер X-тің t = T(X) статистикасы бойынша берілген шартты ықтималдық үлестірімі θ параметріне тәуелді болмаса.

Басқаша айтқанда, θ параметріне қатысты кез келген алдын ала үлестірімдер үшін, θ және T(X) арасындағы өзара ақпарат мөлшері, θ және X арасындағы өзара ақпарат мөлшеріне тең болады. Яғни, деректерді өңдеу теңсіздігі теңдікке айналады:

Мысал

Мысалы, белгілі дисперсиясы бар қалыпты үлестірімнің орташа мәні (μ) үшін үлгідегі орташа мән жеткілікті. Үлгідегі орташа мән белгілі болғаннан кейін, үлгінің өзінен μ туралы қосымша ақпарат алу мүмкін емес. Екінші жағынан, кез келген үлестірім үшін медиана орташа мән үшін жеткіліксіз: егер үлгідегі медиана белгілі болса да, үлгіні білу халықтың орташа мәні туралы қосымша ақпарат береді. Мысалы, егер медианадан төменгі байқаулар одан аздап төмен болса, ал медианадан жоғары байқаулар одан үлкен мөлшерде асып түсетін болса, онда бұл халықтың орташа мәні туралы шешімге әсер етеді.

Ықтималдық қағидатын түсіндіру

Теореманың салдары ретінде, ықтималдыққа негізделген қорытындыларды қолданғанда, жеткілікті статистика T(X) үшін бірдей мән беретін екі дерек жиынтығы θ параметрі туралы әрқашан бірдей қорытындыларға әкеледі. Факторлау критерийіне сәйкес, ықтималдықтың θ-ға тәуелділігі тек T(X) арқылы ғана анықталады. Екі жағдайда да бұл мән бірдей болғандықтан, θ-ға тәуелділік те бірдей болады, нәтижесінде бірдей қорытындылар шығады.

Рао-Блэквелл теоремасы

Жеткіліктілік, Rao–Blackwell теоремасында пайдалы қолданыс табады. Бұл теоремаға сәйкес, егер g(X) θ-ның кез келген бағалаушысы болса, онда көбінесе g(X) шартты күтілімі, жеткілікті статистика T(X) берілгенде, θ-ның жақсырақ (дисперсиясы төмен) бағалаушысы болады және ешқашан нашар болмайды. Кейде өте шикі бағалаушы g(X) құрастырып, содан кейін осы шартты күтілетін мәнді есептеу арқылы әртүрлі жағдайларда оңтайлы болатын бағалаушы алуға болады.

Экспоненциалдық отбасы

Питман-Купман-Дармоа теоремасына сәйкес, параметр бағаланатын кезде домені өзгермейтін ықтималдық үлестірімдерінің отбасылары ішінде, тек экспоненциалдық отбасыларда ғана үлгі көлемі арта келе өлшемі шектелі болатын жеткілікті статистика болады. Бұл интуитивті түрде нақты сызықтағы экспоненциалдық емес үлестірімдер отбасының деректердегі ақпаратты толыққанды түсіру үшін параметрлік емес статистиканы қажет ететінін көрсетеді. Толық айтқанда, егер тәуелсіз, бірдей үлестірілген нақты кездейсоқ шамалар болса, олардың үлестірімі белгілі бір ықтималдық үлестірімдерінің отбасына жатады, бұл отбасы параметрленген және белгілі бір техникалық талаптарды қанағаттандырады, онда бұл отбасы экспоненциалдық отбасы болып табылады, егер және тек қана жеткілікті статистикалық мәні бар болса, онда оның скалярлық компоненттерінің саны үлгі көлемі n арта келе өспейді. Бұл теорема шекті өлшемді, нақты векторлық жеткілікті статистиканың болуы нақты сызықтағы үлестірімдер отбасының мүмкін формаларын қатаң шектейтінін көрсетеді. Егер параметрлер немесе кездейсоқ шамалар енді нақты мәнді болмаса, жағдай одан да күрделене түседі.

Сызықтық жеткіліктілік

"Сызықтық жеткіліктілік" деп аталатын ұғымды Байестік контекстте және одан әрі жалпы жағдайда тұжырымдауға болады. Біріншіден, X негізінде Y векторының ең жақсы сызықтық болжамы былай анықталады: Содан кейін, егер сызықтық статистика T(x) жеткілікті болса, ол сызықтық жеткілікті болып саналады.