Кіріспе

Орташа квадраттық қателікті азайтуға бағытталған бағалау әдісі. Статистика мен сигналдарды өңдеуде, ең төменгі орташа квадраттық қателік (ММШ) бағалаушысы – тәуелді айнымалының шамаланған мәндерінің орташа квадраттық қателігін (ММШ) азайтатын бағалау әдісі. ММШ – бағалаушы сапасын бағалаудың жиі қолданылатын өлшемі. Байес аясында ММШ термині, ерекше жағдайда, квадраттық шығын функциясымен бағалауды білдіреді. Мұндай жағдайда ММШ бағалаушысы бағалауға тиіс параметрдің кейіннен алынған орташа мәнімен анықталады. Кейіннен алынған орташа мәнді есептеу қиын болғандықтан, ММШ бағалаушысының түрі көбінесе функциялардың белгілі бір класына шектеледі. Сызықтық ММШ бағалаушылары кеңінен қолданылады, себебі оларды қолдану және есептеу оңай, сонымен қатар олар өте әмбебап. Олар Винер-Колмогоров сүзгісі және Кальман сүзгісі сияқты көптеген танымал бағалаушылардың пайда болуына себеп болды.

Мотивация

MMSE термині еңбектеп, квадратық шығын функциясы бар Байестік жағдайда бағалауға қатысты. Байестік бағалау тәсілінің негізгі идеясы, біз жиі бағалауға тиісті параметр туралы алдын ала белгілі бір ақпаратқа ие болатын практикалық жағдайлардан туындайды. Мысалы, параметрдің қабылдай алатын диапазоны туралы алдын ала ақпарат болуы мүмкін; немесе жаңа байқау қол жеткізілген кезде өзгертуді қалайтын параметрдің бұрынғы бағасы болуы мүмкін; немесе сөйлеу сияқты нақты кездейсоқ сигналдың статистикасы. Бұл, ең төменгі дисперсиялы бейтарап бағалаушы (MVUE) сияқты Байестік емес тәсілге қарама-қарсы, онда параметр туралы алдын ала ештеңе белгілі емес деп есептеледі және мұндай жағдайларды ескермейді. Байес тәсілінде мұндай алдын ала ақпарат параметрлердің алдын ала ықтималдық тығыздық функциясы арқылы ұсталады; және тікелей Байес теоремасына сүйене отырып, ол бізге көбірек байқаулар қол жеткізілген сайын жақсырақ кейін бағалау жасауға мүмкіндік береді. Байестік емес тәсілден айырмашылығы, онда қызығушылық тудыратын параметрлер детерминистік, бірақ белгісіз тұрақтылар деп есептеледі, Байестік бағалаушы өзі кездейсоқ айнымалы болып табылатын параметрді бағалауға тырысады. Сонымен қатар, Байес бағалауы байқаулар тізбегі міндетті түрде тәуелсіз болмаған жағдайларды да қарастыра алады. Осылайша, Байес бағалауы MVUE-ге тағы бір балама ұсынады. Бұл MVUE болмаған немесе оны табу мүмкін болмаған жағдайда пайдалы.

Есептеу

Гаусс жою сияқты стандартты әдіс матрицалық теңдеуді шешу үшін қолданылуы мүмкін. QR ыдырау әдісі одан сандық тұрақтырақ шешім береді. Матрица симметриялық және оң анықталған болса, Чолески ыдырауы арқылы екі есе жылдам шешуге болады, ал үлкен сирек жүйелер үшін конъюгатты градиент әдісі тиімдірек. Егер матрица Топлиц матрицасы болса, Левинсон рекурсиясы жылдам әдіс болып табылады. Мұндай жағдай кең мағынадағы стационарлық процесс кезінде туындауы мүмкін. Осындай стационарлық жағдайларда бұл бағалаушылар Винер-Колмогоров сүзгілері деп те аталады.

Ерекше жағдай: байланысты емес шумен векторды бақылау

Көптеген практикалық қолданбаларда бақылау шуы өзара байланысты емес. Яғни, ол диагональдық матрица болып табылады. Мұндай жағдайларда, векторлық өлшеудің орнына, компоненттерді тәуелсіз скалярлық өлшеулер ретінде қарастыру пайдалы. Бұл бізге өлшеу векторын скалярлық өлшеулер ретінде өңдеу арқылы есептеу уақытын қысқартуға мүмкіндік береді. Скалярлық жаңарту формуласын қолдану ковариацияны жаңарту теңдеулерін іске асыру кезінде матрицаны инверсиялаудан сақтайды, соның салдарынан дөңгелектеу қателеріне қарсы сандық тұрақтылықты арттырады. Жаңарту итеративті түрде келесідей жүзеге асырылуы мүмкін:

мұнда , ал бастапқы мәндер мен аралық айнымалылар – диагональдық матрицаның -шы диагональдық элементі; ал – матрицаның -шы қатары. Соңғы мәндер мен болады.