Введение
У студентов, изучающих статистику и теорию вероятностей, иногда формируются ошибочные представления о нормальном распределении – идеи, которые могут казаться правдоподобными, но математически неверны. Например, часто ошибочно полагают, что две линейно некоррелированные нормально распределенные случайные величины обязательно должны быть статистически независимыми. Однако это не так, что можно продемонстрировать на контрпримере. Подобным образом, иногда ошибочно считают, что линейная комбинация нормально распределенных случайных величин сама будет иметь нормальное распределение, но и это опровергается контрпримерами. Тем не менее, возможно такое совместное распределение двух случайных величин, при котором каждая из них по отдельности имеет нормальное распределение, и они некоррелированы, но не являются независимыми; примеры приведены ниже.
Students of statistics and probability theory sometimes develop misconceptions about the normal distribution, ideas that may seem plausible but are mathematically untrue. For example, it is sometimes mistakenly thought that two linearly uncorrelated, normally distributed random variables must be statistically independent. However, this is untrue, as can be demonstrated by counterexample. Likewise, it is sometimes mistakenly thought that a linear combination of normally distributed random variables will itself be normally distributed, but again, counterexamples prove this wrong. However, it is possible for two random variables and to be so distributed jointly that each one alone is marginally normally distributed, and they are uncorrelated, but they are not independent; examples are given below.
Симметричный пример
Предположим, что имеет нормальное распределение с математическим ожиданием 0 и дисперсией 1. Пусть имеет распределение Радемахера, так что принимает значение 1 или -1, каждый с вероятностью 1/2, и предположим, что оно независимо от . Пусть Тогда и некоррелированы, что можно проверить, вычислив их ковариацию. Более того, оба имеют одно и то же нормальное распределение. И все же, и не являются независимыми. Чтобы увидеть, что и не являются независимыми, заметим, что или что. Наконец, распределение простой линейной комбинации концентрирует положительную вероятность в точке 0: . Следовательно, случайная величина не имеет нормального распределения, и, следовательно, и также не имеют совместного нормального распределения (по определению выше). где предпоследнее равенство следует из симметрии распределения и симметрии условия, что. В этом примере разность сильно отличается от нормального распределения, поскольку имеет значительную вероятность (около 0,88) быть равной 0. В отличие от этого, нормальное распределение, будучи непрерывным распределением, не имеет дискретной части — то есть, оно не концентрирует более чем нулевую вероятность в какой-либо отдельной точке. Следовательно, и не имеют совместного нормального распределения, даже несмотря на то, что каждое из них по отдельности имеет нормальное распределение.
Finally, the distribution of the simple linear combination concentrates positive probability at 0: Therefore, the random variable is not normally distributed, and so also and are not jointly normally distributed (by the definition above). where the next to last equality follows from the symmetry of the distribution of and the symmetry of the condition that
In this example, the difference is nowhere near being normally distributed, since it has a substantial probability (about 0.88) of it being equal to 0. By contrast, the normal distribution, being a continuous distribution, has no discrete part—that is, it does not concentrate more than zero probability at any single point. Consequently and are not jointly normally distributed, even though they are separately normally distributed.
Примеры с поддержкой почти повсюду в самолете
Предположим, что координаты случайной точки на плоскости выбираются в соответствии с функцией плотности вероятности. Тогда случайные величины и некоррелированы, и каждая из них имеет нормальное распределение (с математическим ожиданием 0 и дисперсией 1), но они не являются независимыми. Хорошо известно, что отношение двух независимых стандартных нормально распределенных случайных величин и имеет распределение Коши. Можно также начать со случайной величины Коши и вывести условное распределение для удовлетворения требования, чтобы с и были независимыми и стандартно нормальными. Отсюда следует, что , где – случайная величина Радемахера, а – случайная величина, распределенная по закону хи-квадрат с двумя степенями свободы. Рассмотрим два набора . Обратите внимание, что не индексируется – то есть, одна и та же случайная величина Коши используется в определении как , так и . Такое совместное использование приводит к зависимостям между индексами: ни , ни не являются независимыми от . Тем не менее, все и некоррелированы, поскольку их двумерные распределения обладают симметрией отражения относительно осей. На рисунке представлены диаграммы рассеяния выборок, полученных из указанного распределения. Это демонстрирует два примера двумерных распределений, которые некоррелированы и имеют нормальные предельные распределения, но не являются независимыми. На левой панели показано совместное распределение и ; распределение определено всюду, кроме начала координат. На правой панели показано совместное распределение и ; распределение определено всюду, кроме осей, и имеет разрыв в начале координат: плотность стремится к бесконечности при приближении к началу координат по любой прямой, кроме осей.
in which is a Rademacher random variable and is a Chi squared random variable with two degrees of freedom. Consider two sets of , Note that is not indexed by – that is, the same Cauchy random variable is used in the definition of both and This sharing of results in dependences across indices: neither nor is independent of Nevertheless all of the and are uncorrelated as the bivariate distributions all have reflection symmetry across the axes. The figure shows scatterplots of samples drawn from the above distribution. This furnishes two examples of bivariate distributions that are uncorrelated and have normal marginal distributions but are not independent. The left panel shows the joint distribution of and ; the distribution has support everywhere but at the origin. The right panel shows the joint distribution of and ; the distribution has support everywhere except along the axes and has a discontinuity at the origin: the density diverges when the origin is approached along any straight path except along the axes.