Введение

Свойство математической матрицы

В математике симметричная матрица с вещественными элементами является положительно определенной, если вещественное число положительно для каждого ненулевого вещественного столбцового вектора , где – транспонирование. В более общем случае, эрмитова матрица (то есть комплексная матрица, равная своей сопряженной транспонированной) является положительно определенной, если вещественное число положительно для каждого ненулевого комплексного столбцового вектора , где обозначает сопряженное транспонирование.

Положительно полуопределенные матрицы определяются аналогично, за исключением того, что скаляры и должны быть положительными или равными нулю (то есть неотрицательными). Отрицательно определенные и отрицательно полуопределенные матрицы определяются аналогичным образом. Матрица, которая не является положительно полуопределенной и не является отрицательно полуопределенной, иногда называется неопределенной. Таким образом, матрица является положительно определенной тогда и только тогда, когда она является матрицей положительно определенной квадратичной формы или эрмитовой формы. Другими словами, матрица является положительно определенной, если и только если она определяет внутреннее произведение. Положительно определенные и положительно полуопределенные матрицы могут быть охарактеризованы многими способами, что может объяснить важность этого понятия в различных областях математики. Матрица M является положительно определенной, если и только если она удовлетворяет любому из следующих эквивалентных условий: M сравнима с диагональной матрицей с положительными вещественными элементами; M симметрична или эрмитова, и все ее собственные значения вещественны и положительны; M симметрична или эрмитова, и все ее главные миноры положительны. Существует невырожденная матрица с сопряженным транспонированием , такая что

Матрица является положительно полуопределенной, если она удовлетворяет аналогичным эквивалентным условиям, где "положительный" заменяется на "неотрицательный", "невырожденная матрица" заменяется на "матрицу", а слово "главный" удаляется. Положительно определенные и положительно полуопределенные вещественные матрицы лежат в основе выпуклой оптимизации, поскольку, учитывая функцию нескольких вещественных переменных, которая дважды дифференцируема, то, если ее гессиан (матрица вторых частных производных) является положительно определенной в точке p, то функция выпукла в окрестности p, и, наоборот, если функция выпукла в окрестности p, то гессиан является положительно полуопределенным в точке p.

Множество положительно определенных матриц является открытым выпуклым конусом, а множество положительно полуопределенных матриц – замкнутым выпуклым конусом. Некоторые авторы используют более общие определения определенности, включая некоторые несимметричные вещественные матрицы или неэрмитовы комплексные матрицы.

Определения

В следующих определениях, – это транспонирование , – это сопряжённое транспонирование, а обозначает n-мерный нулевой вектор.

Определения для действительных матриц

Симметричная вещественная матрица называется положительно определенной, если для всех ненулевых векторов **x** выполняется условие **x**<sup>T</sup>**Ax** > 0. Формально,

Симметричная вещественная матрица называется положительно полуопределенной или неотрицательно определенной, если для всех векторов **x** выполняется условие **x**<sup>T</sup>**Ax** ≥ 0. Формально,

Симметричная вещественная матрица называется отрицательно определенной, если для всех ненулевых векторов **x** выполняется условие **x**<sup>T</sup>**Ax** < 0. Формально,

Симметричная вещественная матрица называется отрицательно полуопределенной или неположительно определенной, если для всех векторов **x** выполняется условие **x**<sup>T</sup>**Ax** ≤ 0. Формально,

Симметричная вещественная матрица, которая не является ни положительно полуопределенной, ни отрицательно полуопределенной, называется неопределенной.

Определения сложных матриц

Следующие определения включают термин "Уведомление", что это всегда действительное число для любой эрмитовой квадратной матрицы. Эрмитова комплексная матрица называется положительно определенной, если для всех ненулевых векторов x выполняется условие . Формально,

Эрмитова комплексная матрица называется положительно полуопределенной или неотрицательно определенной, если для всех векторов x выполняется условие . Формально,

Эрмитова комплексная матрица называется отрицательно определенной, если для всех ненулевых векторов x выполняется условие . Формально,

Эрмитова комплексная матрица называется отрицательно полуопределенной или непозитивно определенной, если для всех векторов x выполняется условие . Формально,

Эрмитова комплексная матрица, которая не является ни положительно полуопределенной, ни отрицательно полуопределенной, называется неопределенной.

Согласованность между реальными и сложными определениями

Поскольку каждая вещественная матрица также является комплексной матрицей, определения "положительной определённости" для обоих классов должны совпадать. Для комплексных матриц наиболее распространенное определение гласит, что матрица положительно определена тогда и только тогда, когда является вещественным и положительным числом для любого ненулевого комплексного вектора-столбца . Это условие подразумевает, что матрица является эрмитовой (то есть её транспонированная матрица равна её сопряжённой), поскольку, будучи вещественной, она равна своей сопряжённой транспонированной матрице для любого , что влечёт за собой.

Согласно этому определению, вещественная положительно определённая матрица является эрмитовой, а следовательно, симметричной; и она положительна для всех ненулевых вещественных векторов-столбцов. Однако одного лишь последнего условия недостаточно для того, чтобы матрица была положительно определённой. Например, если

то для любого вещественного вектора с компонентами и мы имеем , что всегда положительно, если не равно нулю. Однако, если – комплексный вектор с компонентами и , то получается

что не является вещественным числом. Следовательно, не является положительно определённой. С другой стороны, для симметричной вещественной матрицы условие " для всех ненулевых вещественных векторов" действительно подразумевает, что она положительно определена в комплексном смысле.

Обозначение

Если эрмитова матрица является положительно полуопределённой, то иногда пишут , а если она положительно определена, то пишут . Чтобы обозначить, что матрица отрицательно полуопределена, пишут , а чтобы обозначить, что она отрицательно определена, пишут . Это понятие происходит из функционального анализа, где положительно полуопределённые матрицы определяют положительные операторы. Если две матрицы и удовлетворяют , мы можем определить нестрогий частичный порядок, который является рефлексивным, антисимметричным и транзитивным; однако это не полный порядок, так как в общем случае может быть неопределённой. Распространенная альтернативная нотация – , , и для положительно полуопределённых и положительно определённых, отрицательно полуопределённых и отрицательно определённых матриц соответственно. Это может быть запутанным, поскольку иногда неотрицательные (соответственно, не положительные) матрицы также обозначаются таким образом.

Распад Чолского

Гермитова положительно полуопределенная матрица может быть записана как , где — нижнетреугольная матрица с неотрицательными элементами на диагонали (эквивалентно, где — верхнетреугольная матрица); это разложение Чолского. Если матрица положительно определена, то элементы на диагонали матрицы положительны, и разложение Чолского единственно. И наоборот, если — нижнетреугольная матрица с неотрицательными элементами на диагонали, то матрица положительно полуопределена. Разложение Чолского особенно полезно для эффективных численных расчетов. Тесно связанным разложением является LDL-разложение, , где — диагональная матрица, а — нижнетреугольная унитарная матрица.

Другие характеристики

Пусть – вещественная симметричная матрица, и пусть – "единичный шар", определяемый как Тогда мы имеем следующее:

Множество является сплошной пластиной, зажатой между тогда и только тогда, когда является эллипсоидом или эллипсоидальным цилиндром. тогда и только тогда, когда ограничено, то есть является эллипсоидом. Если , то тогда и только тогда, когда ; тогда и только тогда, когда Если , то для всех тогда и только тогда, когда Следовательно, поскольку полярный дуал эллипсоида также является эллипсоидом с теми же главными осями, но с обратными длинами, мы имеем То есть, если положительно определена, то для всех тогда и только тогда, когда

Пусть – эрмитова матрица. Следующие свойства эквивалентны тому, что положительно определена:
Соответствующая сесквилинейная форма является скалярным произведением. Сесквилинейная форма, определяемая , – это функция из в такая, что для всех и в , где – сопряжённо-транспонированная матрица. Для любой комплексной матрицы эта форма линейна по и полулинейна по . Следовательно, форма является скалярным произведением на тогда и только тогда, когда вещественна и положительна для всех ненулевых ; то есть тогда и только тогда, когда положительно определена. (Фактически, каждое скалярное произведение на возникает таким образом из эрмитовой положительно определенной матрицы.) Её ведущие главные миноры все положительны. -й ведущий главный минор матрицы – это определитель её верхней левой подматрицы размера . Оказывается, что матрица положительно определена, если и только если все эти определители положительны. Это условие известно как критерий Сильвестра и предоставляет эффективный тест положительной определенности симметричной вещественной матрицы. А именно, матрица приводится к верхнетреугольной матрице с помощью элементарных преобразований строк, как в первой части метода Гаусса, следя за тем, чтобы сохранить знак её определителя в процессе выбора главного элемента. Поскольку -й ведущий главный минор треугольной матрицы является произведением её диагональных элементов до строки , критерий Сильвестра эквивалентен проверке того, все ли её диагональные элементы положительны. Это условие можно проверять каждый раз, когда получается новая строка верхнетреугольной матрицы. Положительно полуопределённая матрица является положительно определенной, если и только если она обратима. Матрица отрицательно (полу)определена, если и только если положительно (полу)определена.

Квадратные формы

(Чисто) квадратичная форма, связанная с вещественной матрицей, – это функция, такая что для всех её можно привести к симметричной, заменив её на симметричную матрицу. Симметричная матрица является положительно определённой тогда и только тогда, когда её квадратичная форма является строго выпуклой функцией. В более общем случае, любая квадратичная функция из в может быть записана как , где – симметричная матрица, – вещественный вектор, а – вещественная константа. В этом случае это парабола, и как и в случае , у нас есть:

Теорема: Эта квадратичная функция строго выпукла, и, следовательно, имеет единственный конечный глобальный минимум, тогда и только тогда, когда является положительно определённой. Доказательство: Если является положительно определённой, то функция строго выпукла. Её градиент равен нулю в единственной точке , которая должна быть глобальным минимумом, поскольку функция строго выпукла. Если не является положительно определённой, то существует вектор , такой что , следовательно, функция является прямой линией или параболой, ветви которой направлены вниз, и, таким образом, не является строго выпуклой и не имеет глобального минимума. По этой причине положительно определённые матрицы играют важную роль в задачах оптимизации.

Одновременная диагонализация

Одна симметричная матрица и другая, которая является одновременно симметричной и положительно определенной, могут быть одновременно диагонализированы. Это справедливо, хотя одновременная диагонализация не обязательно выполняется посредством преобразования подобия. Этот результат не распространяется на случай трех и более матриц. В этом разделе мы рассматриваем случай с действительными числами. Обобщение на случай комплексных чисел является непосредственным. Пусть – симметричная матрица, а – симметричная и положительно определенная матрица. Запишем обобщенное уравнение собственных значений в виде , где мы требуем, чтобы была нормирована, то есть . Теперь используем разложение Холецкого, чтобы представить обратную матрицу как . Умножая на и полагая , получим , что можно переписать как , где дальнейшие преобразования приводят к , где – матрица, столбцами которой являются обобщенные собственные векторы, а – диагональная матрица с обобщенными собственными значениями. Теперь, умножая слева на , получим окончательный результат: и , но следует отметить, что это больше не ортогональная диагонализация относительно внутреннего произведения, где. Фактически, мы диагонализировали относительно внутреннего произведения, индуцированного . Следует отметить, что этот результат не противоречит тому, что говорится об одновременной диагонализации в статье «Диагонализуемая матрица», которая относится к одновременной диагонализации посредством преобразования подобия. Наш результат здесь больше похож на одновременную диагонализацию двух квадратичных форм и полезен для оптимизации одной формы при ограничениях на другую.

Частичное заказание

Для произвольных квадратных матриц мы пишем, что если , то есть, матрица является положительно полуопределённой. Это определяет частичный порядок на множестве всех квадратных матриц. Аналогично можно определить строгий частичный порядок. Этот порядок называется порядком Леёвнера.

Инверс положительной определенной матрицы

Каждая положительно определенная матрица обратима, и ее обратная также положительно определена. Если , то кроме того, по теореме о минимуме и максимуме, k-е по величине собственное значение матрицы больше или равно k-му по величине собственному значению матрицы .

Масштабирование

Если матрица положительно определена и λ — действительное число, то λA положительно определена.

Добавление

Если A и B являются положительно определенными, то их сумма A + B также является положительно определенной.

Продукт Кронекера

Если , хотя не обязательно положительно полуопределённая, произведение Кронекера .

Продукт Фробениуса

Если , хотя и не обязательно положительно полуопределённое, то внутреннее произведение Фробениуса (Ланкастер – Тисменецкий, Теория матриц, с. 218).

Выпуклость

Множество положительно полуопределённых симметричных матриц является выпуклым. То есть, если A и B являются положительно полуопределёнными, то для любого числа t между 0 и 1, матрица tA + (1-t)B также является положительно полуопределённой. Для любого вектора:

Это свойство гарантирует, что задачи полудефинитного программирования сходятся к глобально оптимальному решению.

Дополнительные свойства

Если матрица является симметричной матрицей Топлица, то есть её элементы задаются функцией абсолютных разностей индексов: , и выполняется строгое неравенство , то матрица строго положительно определена. Пусть и — эрмитовы матрицы. Если (соответственно, ) то (соответственно, ). Если — вещественная матрица, то существует такая матрица , что , где — единичная матрица. Если обозначает главный минор порядка , то это -й опорный элемент при LU-разложении. Матрица отрицательно определена, если её главный минор порядка k отрицателен при нечётном k и положителен при чётном k. Если — вещественная положительно определенная матрица, то существует положительное вещественное число , такое, что для любого вектора , . Эрмитова матрица является положительно полуопределенной тогда и только тогда, когда все её главные миноры неотрицательны. Однако недостаточно рассматривать только главные миноры, как это демонстрируется на примере диагональной матрицы с элементами 0 и −1.

Местные экстремы

Общая квадратичная форма на вещественных переменных всегда может быть записана как , где — вектор-столбец, состоящий из этих переменных, а — симметричная вещественная матрица. Следовательно, положительная определенность матрицы означает, что функция имеет единственный минимум (равный нулю) при , и строго положительна при любых других значениях . В более общем случае, дважды дифференцируемая вещественная функция от вещественных переменных имеет локальный минимум в точке , если ее градиент равен нулю, а ее гессиан (матрица всех вторых производных) является положительно полуопределенной в этой точке. Аналогичные утверждения справедливы для отрицательно определенных и полуопределенных матриц.

Ковариантность

В статистике матрица ковариаций многомерного распределения вероятностей всегда является положительно полуопределённой; и она является положительно определённой, если ни одна переменная не является точной линейной функцией остальных. Обратно, любая положительно полуопределённая матрица является матрицей ковариаций некоторого многомерного распределения.

Расширение для негермитовых квадратных матриц

Определение положительной определенности может быть обобщено, обозначив любую комплексную матрицу (например, вещественную несимметричную) как положительно определенную, если для всех ненулевых комплексных векторов , где обозначает вещественную часть комплексного числа. Только эрмитова часть определяет, является ли матрица положительно определенной, и оценивается в более узком смысле, как указано выше. Аналогично, если и являются вещественными, то для всех вещественных ненулевых векторов выполняется условие , если и только если симметричная часть является положительно определенной в более узком смысле. Непосредственно следует, что это свойство не зависит от транспонирования M. Следовательно, несимметричная вещественная матрица, имеющая только положительные собственные значения, не обязательно является положительно определенной. Например, матрица имеет положительные собственные значения, но не является положительно определенной; в частности, отрицательное значение получается при выборе (который является собственным вектором, соответствующим отрицательному собственному значению симметричной части). В итоге, принципиальное отличие между вещественным и комплексным случаями заключается в том, что ограниченный положительный оператор в комплексном гильбертовом пространстве обязательно является эрмитовым, или самосопряженным. Общее утверждение можно доказать, используя тождество поляризации, но это неверно для вещественного случая.

Матрица теплопроводности

Закон Фурье о теплопроводности, выражающий тепловой поток через температурный градиент, для анизотропных сред записывается как , где – симметричная матрица теплопроводности. Отрицательный знак в законе Фурье введен для отражения ожидания, что тепло всегда течет от более теплого тела к более холодному. Иными словами, поскольку температурный градиент всегда направлен от холодного к теплому, тепловой поток должен иметь отрицательное скалярное произведение с , так что подстановка закона Фурье дает это ожидание в виде , что подразумевает положительную определенность матрицы теплопроводности.