Кіріспе
Ақпараттық геометрияда Фишер ақпараттық метрикасы – нақты бір Риманн метрикасы болып табылады, оны тегіс статистикалық көптүрлілікте, яғни, жалпы ықтималдық кеңістігінде анықталған ықтималдық шаралары нүктелер болатын тегіс көптүрлілікте анықтауға болады. Ол өлшемдер арасындағы ақпараттық айырманы есептеу үшін қолданылады. Бұл метрика бірнеше қызықты аспектілерге ие. Ченцов теоремасына сәйкес, статистикалық модельдердегі Фишер ақпараттық метрикасы жеткілікті статистика жағдайында инвариант болатын жалғыз Риманн метрикасы (қайта масштабтауға дейін). Оны салыстырмалы энтропияның (яғни, Куллбек-Лейблер дивергенциясы) шексіз кішкентай формасы деп қарастыруға болады; нақтырақ айтқанда, ол дивергенцияның Гессианы. Сонымен қатар, оны тиісті айнымалы өзгерістерінен кейін жазық кеңістіктегі Евклидтік метрика арқылы туындайтын метрика ретінде түсінуге болады. Кешенді проективті Гильберт кеңістігіне кеңейтілгенде ол Фубини-Студи метрикасына айналады, ал аралас күйлер тұрғысынан қарағанда кванттық Бурес метрикасы болып табылады. Ол тек матрица ретінде қарастырылса, Фишер ақпараттық матрицасы деп аталады. Байқалған кездейсоқ шамалар арқылы жасырын параметрлерді бағалауға қолданылатын өлшеу әдісі ретінде қарастырылса, ол байқалған ақпарат ретінде белгілі.
In information geometry, the Fisher information metric is a particular Riemannian metric which can be defined on a smooth statistical manifold, i. e., a smooth manifold whose points are probability measures defined on a common probability space. It can be used to calculate the informational difference between measurements. The metric is interesting in several aspects. By Chentsov’s theorem, the Fisher information metric on statistical models is the only Riemannian metric (up to rescaling) that is invariant under sufficient statistics. It can also be understood to be the infinitesimal form of the relative entropy (i. e., the Kullback–Leibler divergence); specifically, it is the Hessian of the divergence. Alternately, it can be understood as the metric induced by the flat space Euclidean metric, after appropriate changes of variable. When extended to complex projective Hilbert space, it becomes the Fubini–Study metric; when written in terms of mixed states, it is the quantum Bures metric. Considered purely as a matrix, it is known as the Fisher information matrix. Considered as a measurement technique, where it is used to estimate hidden parameters in terms of observed random variables, it is known as the observed information.
Куллбек-Лейблер дивергенциясына қатынасы
Сонымен қатар, метриканы салыстырмалы энтропияның екінші туындысы немесе Куллбек – Лейблер дивергенциясы ретінде алуға болады. Бұл үшін екі ықтималдық таралымын және қарастырамыз, олар бір-біріне шексіз жақын, сондықтан j бағытындағы шексіз кішкентай өзгеріспен:
Куллбек – Лейблер дивергенциясының абсолюттік минимумдық мәні 0 болғанда , оның бойынша екінші дәрежеге дейінгі кеңдеуі мына түрде болады:
Симметриялық матрица оң (жартылай) анықталған және функцияның экстремум нүктесіндегі Гессиан матрицасы болып табылады. Бұны интуитивті түрде былай түсінуге болады: "Статистикалық дифференциалдық манифольдындағы екі шексіз жақын нүкте арасындағы қашықтық – олардың арасындағы ақпараттық айырмашылық."
Руппейнер геометриясымен байланысы
Руппейнер метрикасы және Вайнхольд метрикасы – бұл тепе-теңдік статистикалық механикасында табылған Гиббс үлестірімдері үшін есептелген Фишер ақпараттық метрикасы.