Введение

Обобщение производных на функции вещественного значения

В математике субдифференциалы (или субградиент) обобщают понятие производной на выпуклые функции, которые не обязательно дифференцируемы. Множество субдифференциалов в точке называется субдифференциалом в этой точке. Субдифференциалы возникают в выпуклом анализе, изучении выпуклых функций, часто в связи с выпуклой оптимизацией. Пусть – функция вещественного значения, являющаяся выпуклой и определенной на открытом интервале действительной прямой. Такая функция не обязана быть дифференцируемой во всех точках: например, функция абсолютной величины не дифференцируема в точке . Однако, как видно на графике справа (где синяя линия имеет точки недифференцируемости, подобные функции абсолютной величины), для любого из области определения функции можно провести прямую, проходящую через точку и всюду касающуюся или находящуюся ниже графика f. Угол наклона такой прямой называется субдифференциалом.

Пример

Рассмотрим функцию, которая является выпуклой. Тогда субдифференциал в нуле – это интервал. Субдифференциал в любой точке x > 0 является одноэлементным множеством {0}, а субдифференциал в любой точке x < 0 является одноэлементным множеством {2}. Это аналогично функции знака, но не имеет единственного значения в точке 0, а вместо этого включает все возможные субпроизводные.

Свойства

Выпуклая функция дифференцируема в точке, если и только если её субдифференциал является множеством, состоящим из одной точки, то есть, является синглетоном. Точка является глобальным минимумом выпуклой функции, если и только если ноль содержится в её субдифференциале. Например, на рисунке выше можно провести горизонтальную "субтангенсную линию" к графику функции в точке . Это свойство является обобщением факта, что производная функции, дифференцируемой в локальном минимуме, равна нулю. Если и — выпуклые функции с субдифференциалами и , а — внутренняя точка одной из этих функций, то субдифференциал функции равен (где оператор сложения обозначает сумму Минковского). Это можно сформулировать как: "субдифференциал суммы равен сумме субдифференциалов".

Подградиент

Понятия субдеривативы и субдифференциала могут быть обобщены на функции нескольких переменных. Если – вещественнозначная выпуклая функция, определенная на выпуклом открытом множестве в евклидовом пространстве , то вектор в этом пространстве называется субградиентом в точке , если для любого выполняется неравенство

где точка обозначает скалярное произведение. Множество всех субградиентов в точке называется субдифференциалом в точке и обозначается . Субдифференциал всегда является непустым выпуклым компактным множеством. Эти понятия обобщаются и на выпуклые функции на выпуклом множестве в локально выпуклом пространстве. Функционал в двойственном пространстве называется субградиентом в точке в если для всех ,

Множество всех субградиентов в точке называется субдифференциалом в точке и снова обозначается . Субдифференциал всегда является выпуклым замкнутым множеством. Он может быть пустым; рассмотрим, например, неограниченный оператор, который является выпуклым, но не имеет субградиента. Если непрерывна, то субдифференциал непуст.

История

Субдифференциал для выпуклых функций был введен Жаном Жаком Моро и Р. Тиреллом Рокфеллером в начале 1960-х годов. Обобщенный субдифференциал для невыпуклых функций был введен Ф. Х. Кларком и Р. Т. Рокфеллером в начале 1980-х годов.