Введение

Итеративный метод минимизации выпуклых функций

В математической оптимизации эллипсоидный метод — это итеративный метод минимизации выпуклых функций на выпуклых множествах. Эллипсоидный метод генерирует последовательность эллипсоидов, объем которых равномерно уменьшается на каждом шаге, тем самым заключая минимизатор выпуклой функции. При применении к решению выполнимых задач линейного программирования с рациональными данными, эллипсоидный метод является алгоритмом, который находит оптимальное решение за полиномиальное от размера входных данных число шагов.

История

Метод эллипсоидов имеет долгую историю. Как итеративный метод, его предварительная версия была предложена Наумом З. Шором. В 1972 году Аркадий Немировский и Дэвид Б. Юдин (Джудин) исследовали алгоритм аппроксимации для вещественной выпуклой минимизации. Леонид Хачиян изучал эллипсоидный алгоритм как алгоритм решения задач линейного программирования с рациональными данными; главным достижением Хачияна стало доказательство полиномиальной сложности линейных программ. Это был значительный шаг с теоретической точки зрения: стандартным алгоритмом для решения линейных задач в то время был симплекс-метод, время работы которого обычно линейно зависит от размера задачи, но существуют примеры, для которых оно становится экспоненциальным. Поэтому наличие алгоритма, гарантированно полиномиального во всех случаях, казалось теоретическим прорывом. Работа Хачияна впервые показала, что существуют алгоритмы для решения задач линейного программирования, время работы которых можно доказать как полиномиальное. Однако на практике алгоритм оказался довольно медленным и малоинтересным, хотя и послужил вдохновением для последующих работ, которые оказались гораздо более практически полезными. В частности, алгоритм Кармаркара, метод внутренней точки, на практике значительно быстрее метода эллипсоидов. Алгоритм Кармаркара также быстрее в худшем случае. Эллипсоидный алгоритм позволил теоретикам сложности получать (в худшем случае) оценки, зависящие от размерности задачи и размера данных, но не от количества строк, поэтому он оставался важным в теории комбинаторной оптимизации на протяжении многих лет. Только в XXI веке появились алгоритмы внутренней точки с сопоставимыми свойствами сложности.