Введение

Математическая функция, определяющая вероятность наступления определенного исхода в эксперименте.

В теории вероятностей и статистике распределение вероятностей – это математическая функция, которая задает вероятности наступления различных возможных исходов эксперимента. Это математическое описание случайного явления с точки зрения его пространства элементарных событий и вероятностей событий (подмножеств пространства элементарных событий). Например, если X обозначает исход подбрасывания монеты ("эксперимент"), то распределение вероятностей X примет значение 0,5 (1/2) для X = орел и 0,5 для X = решка (при условии, что монета честная). Чаще всего распределения вероятностей используются для сравнения относительной частоты появления множества различных случайных величин. Распределения вероятностей могут быть определены различными способами для дискретных и непрерывных переменных. Распределения с особыми свойствами или для особенно важных областей применения имеют собственные названия.

Введение

Распределение вероятности — это математическое описание вероятностей событий, подмножеств пространства элементарных исходов. Пространство элементарных исходов, часто обозначаемое как , представляет собой множество всех возможных результатов наблюдаемого случайного явления; это может быть любое множество: множество действительных чисел, множество описательных меток, множество векторов, множество произвольных нечисловых значений и т. д. Например, пространство элементарных исходов подбрасывания монеты будет .

Для определения распределений вероятностей в конкретном случае случайных величин (так что пространство элементарных исходов можно рассматривать как числовое множество) обычно различают дискретные и абсолютно непрерывные случайные величины. В дискретном случае достаточно указать функцию массы вероятности , присваивающую вероятность каждому возможному исходу: например, при броске справедливой кости каждая из шести цифр от 1 до 6, соответствующих числу точек на кости, имеет вероятность . Вероятность события затем определяется как сумма вероятностей всех исходов, удовлетворяющих этому событию; например, вероятность события "кость показывает четное число" равна .

В отличие от этого, когда случайная величина принимает значения из континуума, по соглашению любому отдельному исходу присваивается вероятность, равная нулю. Для таких непрерывных случайных величин вероятность больше 0 только для событий, включающих бесконечно много исходов, таких как интервалы. Например, рассмотрим измерение веса куска ветчины в супермаркете и предположим, что весы могут предоставлять произвольно большое количество знаков точности. Тогда вероятность того, что вес будет ровно 500 г, должна быть равна нулю, поскольку независимо от выбранного уровня точности нельзя предположить, что в оставшихся пропущенных цифрах нет ненулевых десятичных знаков, игнорируемых уровнем точности. Однако в том же сценарии можно выполнить требования контроля качества, например, что упаковка ветчины весом "500 г" должна весить от 490 г до 510 г с вероятностью не менее 98%. Это возможно, потому что для этого измерения не требуется столь высокая точность от базового оборудования. Абсолютно непрерывные распределения вероятностей могут быть описаны несколькими способами. Функция плотности вероятности описывает бесконечно малую вероятность любого заданного значения, а вероятность того, что исходное значение лежит в заданном интервале, может быть вычислена путем интегрирования функции плотности вероятности по этому интервалу.

Общее определение вероятности

Распределение вероятностей может быть описано в различных формах, таких как функция массы вероятностей или функция кумулятивного распределения. Одно из наиболее общих описаний, применимое к абсолютно непрерывным и дискретным переменным, – это функция вероятности, входное пространство которой является σ-алгеброй и возвращает вероятность в виде вещественного числа, в частности, число в диапазоне [0, 1]. Функция вероятности может принимать в качестве аргумента подмножества самого пространства элементарных событий, как в примере с подбрасыванием монеты, где функция была определена так, что P(орёл) = 0,5 и P(решка) = 0,5. Однако, ввиду широкого использования случайных величин, которые преобразуют пространство элементарных событий в множество чисел (например, ℝ), чаще изучают распределения вероятностей, аргументами которых являются подмножества этих конкретных типов множеств (числовых множеств), и все распределения вероятностей, рассматриваемые в данной статье, относятся к этому типу. Обычно обозначают как P(A) вероятность того, что определенное значение случайной величины X принадлежит определенному событию A. Распределения вероятностей обычно относятся к одному из двух классов. Дискретное распределение вероятностей применимо к сценариям, где множество возможных исходов дискретно (например, подбрасывание монеты, бросок кубика), а вероятности кодируются дискретным списком вероятностей исходов; в этом случае дискретное распределение вероятностей известно как функция массы вероятности. С другой стороны, абсолютно непрерывное распределение вероятностей применимо к сценариям, где множество возможных исходов может принимать значения в непрерывном диапазоне (например, вещественные числа), как, например, температура в определенный день. В абсолютно непрерывном случае вероятности описываются функцией плотности вероятности, а распределение вероятности по определению является интегралом функции плотности вероятности. Нормальное распределение – это часто встречающееся абсолютно непрерывное распределение вероятностей. Более сложные эксперименты, такие как те, которые включают стохастические процессы, определенные в непрерывном времени, могут потребовать использования более общих мер вероятности. Распределение вероятности, пространство элементарных событий которого одномерно (например, вещественные числа, список меток, упорядоченные метки или бинарные значения), называется унивариантным (или одномерным), а распределение, пространство элементарных событий которого является векторным пространством размерности 2 или более, называется мультивариантным (или многомерным). Унивариантное распределение задает вероятности принятия случайной величиной различных значений; мультивариантное распределение (совместное распределение вероятностей) задает вероятности случайного вектора – списка из двух или более случайных величин – принятия различных комбинаций значений. Важные и часто встречающиеся унивариантные распределения вероятностей включают биномиальное распределение, гипергеометрическое распределение и нормальное распределение. Часто встречающимся мультивариантным распределением является многомерное нормальное распределение. Помимо функции вероятности, функции кумулятивного распределения, функции массы вероятности и функции плотности вероятности, функция производящих моментов и характеристическая функция также служат для идентификации распределения вероятности, поскольку они однозначно определяют базовую функцию кумулятивного распределения.

Терминология

Ниже перечислены некоторые ключевые понятия и термины, широко используемые в литературе по теме распределения вероятностей. Кумулятивная функция распределения: функция, определяющая вероятность того, что случайная величина примет значение, меньшее или равное x. Квантильная функция: обратная к кумулятивной функции распределения. Возвращает значение x, такое что с вероятностью p случайная величина не превысит x.

Дискретные распределения вероятности

Дискретное распределение вероятностей: для многих случайных величин с конечным или счетно бесконечным числом значений. Функция массы вероятности (pmf): функция, которая определяет вероятность того, что дискретная случайная величина примет определенное значение. Ряд распределения частот: таблица, отображающая частоту встречаемости различных исходов в выборке. Эмпирическое распределение частот: ряд распределения частот, в котором каждое значение делится (нормализуется) на общее число исходов в выборке (то есть на объем выборки). Категориальное распределение: для дискретных случайных величин с конечным множеством значений.

Абсолютно непрерывные распределения вероятности

Абсолютно непрерывное распределение вероятности: применимо ко многим случайным величинам с несчетным множеством значений. Функция плотности вероятности (pdf) или плотность вероятности: функция, значение которой в любой заданной точке пространства элементарных событий (множества всех возможных значений случайной величины) можно интерпретировать как относительную вероятность того, что значение случайной величины равно этой точке.

Распределение в одну точку

Особым случаем является дискретное распределение случайной величины, которая может принимать только одно фиксированное значение; другими словами, это детерминированное распределение. Формально, случайная величина имеет распределение в одной точке, если существует такой возможный исход x, что P(X = x) = 1. Все остальные возможные исходы тогда имеют вероятность 0. Её функция распределения скачкообразно переходит от 0 к 1.

Определение Колмогорова

В теоретико-измерительной формализации теории вероятностей, случайная величина определяется как измеримая функция из пространства вероятностей в измеримое пространство. Поскольку вероятности событий вида {ω : X(ω) ≤ x} удовлетворяют аксиомам вероятности Колмогорова, распределение вероятности случайной величины X является образом меры вероятностей на , то есть мера вероятности на , удовлетворяющая условию ∫ₐ f(x) dP(x) = P({ω : X(ω) ≤ x}).

Некоторые специализированные приложения распределений вероятности

Модели языка кэша и другие статистические языковые модели, используемые в обработке естественного языка для определения вероятности появления определенных слов и последовательностей слов, делают это посредством вероятностных распределений. В квантовой механике плотность вероятности обнаружения частицы в заданной точке пропорциональна квадрату модуля волновой функции частицы в этой точке (см. правило Борна). Следовательно, функция распределения вероятности положения частицы описывается как вероятность того, что положение частицы x будет находиться в интервале a ≤ x ≤ b в одномерном пространстве, и аналогичный тройной интеграл в трехмерном пространстве. Это ключевой принцип квантовой механики. Вероятностный расчет потоков мощности в исследовании режимов работы энергосистемы учитывает неопределенности входных переменных в виде вероятностных распределений и предоставляет расчет потоков мощности также в терминах вероятностных распределений. Прогнозирование возникновения природных явлений на основе предыдущих распределений частот, таких как тропические циклоны, град, интервалы между событиями и т.д.