Введение

Функция в статистике: двоичная логитная функция

В статистике логитная функция (/'l//oʊ//dʒ//ɪ//t/ LOHjit) — это квантильная функция, связанная со стандартным логистическим распределением. Она имеет множество применений в анализе данных и машинном обучении, особенно в преобразовании данных. Математически логит является обратной к стандартной логистической функции, поэтому логит определяется как

В силу этого логит также называют логарифмом отношения шансов, поскольку он равен логарифму отношения шансов, где p — вероятность. Таким образом, логит — это тип функции, который отображает значения вероятности от 0 до 1 в множество действительных чисел, подобно функции пробита.

Использование и свойства

Логит в логистической регрессии является частным случаем функции связи в обобщенной линейной модели: это каноническая функция связи для распределения Бернулли. Функция логита представляет собой отрицательную производную бинарной энтропийной функции. Логит также играет центральную роль в вероятностной модели Раша для измерений, которая находит применение в психологической и образовательной оценке, а также в других областях. Обратная функция логита (то есть логистическая функция) иногда также называется функцией экспит. В эпидемиологии заболеваний растений логистические, Гомперца и мономолекулярные модели коллективно известны как семейство моделей Ричардса. Функция логарифма отношения шансов вероятностей часто используется в алгоритмах оценки состояния благодаря своим численным преимуществам при работе с малыми вероятностями. Вместо умножения очень малых чисел с плавающей точкой, вероятности, выраженные в логарифме отношения шансов, можно просто суммировать для вычисления (логарифма отношения шансов) совместной вероятности.

Сравнение с пробитом

Тесно связанными с функцией логита (и моделью логита) являются функция пробита и модель пробита. Логит и пробит – это обе сигмоидные функции с областью определения от 0 до 1, что делает их квантильными функциями, то есть обратными к кумулятивной функции распределения (CDF) распределения вероятностей. Фактически, логит является квантильной функцией логистического распределения, а пробит – квантильной функцией нормального распределения. Функция пробита обозначается , где – CDF стандартного нормального распределения, как было упомянуто ранее:

Как показано на графике справа, функции логита и пробита чрезвычайно похожи, когда функция пробита масштабируется таким образом, чтобы ее наклон в точке совпадал с наклоном логита. В результате, модели пробита иногда используются вместо моделей логита, поскольку для определенных приложений (например, в теории отклика на вопросы) реализация оказывается проще.