Введение

Статистическое значение, представляющее центр или среднее распределения
концепция графа/сети

В статистике центральная тенденция (или мера центральной тенденции) – это центральное или типичное значение для распределения вероятностей. В обиходе меры центральной тенденции часто называют средними значениями. Термин «центральная тенденция» появился в конце 1920-х годов. Центральная тенденция распределения обычно противопоставляется его разбросу или изменчивости; разброс и центральная тенденция – часто характеризуемые свойства распределений. Анализ может оценить, обладает ли набор данных выраженной или слабой центральной тенденцией, исходя из его разброса.

Уникальность

Среднее значение (центр L2) и средний диапазон (центр L∞) являются уникальными (когда они существуют), в то время как медиана (центр L1) и мода (центр L0) обычно не уникальны. Это можно объяснить с точки зрения выпуклости соответствующих функций (коэрцитивных функций). 2-ная и ∞-ная нормы строго выпуклы, и, следовательно (в силу выпуклой оптимизации), минимизатор уникален (если он существует) и существует для ограниченных распределений. Таким образом, стандартное отклонение от среднего значения меньше, чем стандартное отклонение от любой другой точки, а максимальное отклонение от среднего диапазона меньше, чем максимальное отклонение от любой другой точки. 1-ная норма не является строго выпуклой, а строгая выпуклость необходима для обеспечения уникальности минимизатора. Соответственно, медиана (в смысле минимизации) обычно не уникальна, и фактически любая точка между двумя центральными точками дискретного распределения минимизирует среднее абсолютное отклонение. 0 "норма" не является выпуклой (и, следовательно, не является нормой). Соответственно, мода не уникальна – например, в равномерном распределении любая точка является модой.

Кластеризация

Вместо одной центральной точки можно запросить несколько точек, так чтобы отклонение от этих точек было минимальным. Это приводит к кластерному анализу, где каждая точка в наборе данных объединяется в кластер с ближайшим "центром". Чаще всего, использование 2-й нормы обобщает среднее значение до k-средних, а использование 1-й нормы обобщает (геометрическую) медиану до k-медиан. Использование 0-й нормы просто обобщает моду (наиболее часто встречающееся значение) до использования k наиболее часто встречающихся значений в качестве центров. В отличие от статистики с одним центром, многоцентровый кластер в общем случае не может быть вычислен аналитически, и вместо этого должен быть вычислен или приближен итеративным методом; одним из общих подходов являются алгоритмы максимизации ожидания.

Информационная геометрия

Понятие "центра" как минимизирующего вариацию может быть обобщено в информационной геометрии как распределение, минимизирующее дивергенцию (обобщенное расстояние) от набора данных. Наиболее распространенным случаем является оценка максимального правдоподобия, где оценка максимального правдоподобия (MLE) максимизирует правдоподобие (минимизирует ожидаемый сюрприз), что может быть геометрически интерпретировано с использованием энтропии для измерения вариации: MLE минимизирует перекрестную энтропию (эквивалентно, относительную энтропию, дивергенцию Кульбака — Лейблера). Простой пример этого – для центра номинальных данных: вместо использования моды (единственного однозначного "центра") часто используется эмпирическая мера (распределение частот, деленное на размер выборки) в качестве "центра". Например, если данные бинарные, скажем, орел или решка, и набор данных состоит из 2 орлов и 1 решки, то модой будет "орел", но эмпирическая мера – 2/3 орла и 1/3 решки, что минимизирует перекрестную энтропию (общий сюрприз) относительно данного набора данных. Эта точка зрения также используется в регрессионном анализе, где метод наименьших квадратов находит решение, минимизирующее расстояния до него, и аналогично в логистической регрессии, оценка максимального правдоподобия минимизирует сюрприз (информационное расстояние).