Кіріспе
Статистика саласындағы теория. Статистикада минималды норманың квадратикалық бейтарап бағалау теориясы (MINQUE) К. Р. Рао тарапынан әзірленді. MINQUE – бұл бағалау теориясындағы басқа бағалау әдістерімен, мысалы, сәттер әдісі немесе максималды ықтималдық бағалау сияқты әдістермен қатар қарастырылатын теория. Ең жақсы сызықтық бейтарап бағалау теориясына ұқсас, MINQUE сызықтық регрессия модельдеріне ерекше назар береді. Бұл әдіс бастапқыда көп өлшемді сызықтық регрессиядағы гетероскедастикалық қателік дисперсиясын бағалау үшін жасалған. MINQUE бағалаушылары аралас эффектілер модельдеріндегі дисперсия компоненттерін бағалау үшін максималды ықтималдық бағалаушыларына немесе шектелген максималды ықтималдық бағалаушыларына балама болып табылады. MINQUE бағалаушылары – жауап айнымалысының квадратикалық формалары және дисперсиялардың сызықтық функциясын бағалау үшін қолданылады.
In statistics, the theory of minimum norm quadratic unbiased estimation (MINQUE) was developed by C. R. Rao. MINQUE is a theory alongside other estimation methods in estimation theory, such as the method of moments or maximum likelihood estimation. Similar to the theory of best linear unbiased estimation, MINQUE is specifically concerned with linear regression models. The method was originally conceived to estimate heteroscedastic error variance in multiple linear regression. MINQUE estimators also provide an alternative to maximum likelihood estimators or restricted maximum likelihood estimators for variance components in mixed effects models. MINQUE estimators are quadratic forms of the response variable and are used to estimate a linear function of the variances.
Негізгі қағидалар
Бізге келесі сызықтық құрылымды кездейсоқ вектор үшін аралас эффектілер моделі қажет. Мұнда – тұрақты эффектілерге арналған жобалау матрицасы, – белгісіз тұрақты эффектілер параметрлерін білдіреді, – -шы кездейсоқ эффекті компонентіне арналған жобалау матрицасы, ал – -шы кездейсоқ эффекті компоненті үшін кездейсоқ вектор. Кездейсоқ эффектілердің орташа мәні нөл деп есептеледі және олар өзара корреляцияланбаған. Сонымен қатар, кез келген екі кездейсоқ эффекті векторлары да өзара корреляцияланбаған. Белгісіз дисперсиялар модельдің дисперсиялық компоненттерін білдіреді. Бұл, көп қолданылатын сызықтық регрессия модельдерін қамтитын жалпы модель. Гаусс-Марков моделі: Егер біз бір компонентті модельді қарастырсақ, онда модель Гаусс-Марков моделіне тең болады, мұнда және . Гетероскедастикалық модель: Бірдей дисперсияны бөлісетін кездейсоқ айнымалылардың әрбір жиынтығы тиісті дисперсиялық компонент ретінде модельдендірілуі мүмкін. Модельдің ықшам жазылу түрі келесідей, мұнда және . Бұл модель, бірінші және екінші моменттерден басқа, туралы ешқандай таралымдық болжамдар жасамайды. MINQUE мақсаты – квадраттық форманы қолдану арқылы параметрін бағалау. MINQUE бағалаушылары, бағалаушының қажетті қасиеттеріне ие болатын матрицаны анықтау арқылы шығарылады.
A compact representation for the model is the following, where and
Note that this model makes no distributional assumptions about other than the first and second moments. The goal in MINQUE is to estimate using a quadratic form MINQUE estimators are derived by identifying a matrix such that the estimator has some desirable properties, described below.
Белгілі әсерлердің аударуына сәйкес келу
Жаңа тұрақты әсер параметрін қарастырайық, ол бастапқы тұрақты әсердің ауысуын білдіреді. Жаңа, эквивалентті модель енді былай болады. Осы эквивалентті модель бойынша MINQUE бағалаушысы енді Rao эквивалентті негізгі модельдер болғандықтан, бұл бағалаушы тең болуы керек деп мәлімдеді. Бұл квадраттық форманың кеңеюіндегі -дан басқа барлық мүшелердің нөлге тең болуын қамтамасыз ететін шектеуі арқылы қол жеткізілуі мүмкін.
Бейтарап бағалау
Егер жоғарыда айтылғандай шектеу енгізсек, онда MINQUE бағалаушысы келесідей болады:
Бұл бағалаушының бұрмаланбауын қамтамасыз ету үшін, бағалаушының математикалық күтуі қызығушылық тудыратын параметрге тең болуы керек. Төменде бағалаушының математикалық күтуін әрбір компонент бойынша бөліп қарастыруға болады, себебі компоненттер бір-бірімен корреляцияланбаған. Сонымен қатар, іздің циклдық қасиеті математикалық күтуді бағалау үшін қолданылады. Бұл бағалаушының бұрмаланбауын қамтамасыз ету үшін Рао , деп ұсынды, бұл барлық компоненттер үшін шектеу арқылы іске асырылуы мүмкін.
To ensure that this estimator is unbiased, Rao suggested setting , which can be accomplished by constraining such that for all components.
Ең төменгі норма
Рао былай демек: егер байқалса, онда бағалаушының "табиғи" түрі келесідей болар еді, себебі . Мұнда - диагональдық матрица ретінде анықталады. Ұсынылған бағалаушы мен табиғи бағалаушы арасындағы айырмашылық - келесідей: . Бұл айырмашылықты матрицасының нормасын ең кішкентай етіп табу арқылы азайтуға болады.
Гомоскедастикалық қате үшін стандартты бағалаушы
Гаусс-Марков моделінде қателік дисперсиясы келесі арқылы бағаланады. Бұл бағалаушы бөгетсіз және форманың Евклид нормасын ең кішкентай ететінін көрсетуге болады. Осылайша, Гаусс-Марков моделіндегі қателік дисперсиясының стандартты бағалаушысы MINQUE бағалаушысы болып табылады.
Орташа орта және гетероскедастикалық қатесі бар кездейсоқ айнымалылар
Орташа мәні бірдей, ал дисперсиясы әртүрлі кездейсоқ шамалар үшін, -қа арналған MINQUE бағалаушысы: , мұнда және .
Ұзартулар
MINQUE бағалаушыларын инварианттық критерийлерсіз алуға болады, онда бағалаушы тек қана бейтарап болады және норманы ең төмендетуге бағытталған. Мұндай бағалаушылардың минималдау мәселесіне қойылатын талаптар сәл өзгеше. Модельді ковариациялық компоненттерді бағалау үшін кеңейтуге болады. Мұндай модельде компоненттің кездейсоқ әсерлері ортақ ковариациялық құрылымға ие деп қарастырылады. Сонымен қатар, дисперсия және ковариация компоненттерінің қоспасы үшін MINQUE бағалаушысы ұсынылды. Бұл модельде, үшін және үшін .