Корреляционный момент и коэффициент корреляции

• Корреляция
  • Корреляционный момент и коэффициент корреляции
  • Коррелированность и зависимость случайных величин
  • Нормальный закон распределения на плоскости
  • Линейная регрессия. Прямые линии среднеквадратической регрессии
  • Линейная корреляция. Нормальная корреляция
  • Коэффициент корреляции Пирсона
  • Коэффициент корреляции Пирсона: пример решения задачи
  • Коэффициент ранговой корреляции Спирмена
  • Коэффициент корреляции Спирмена: пример решения задачи

Случайная величина описывается двумя числовыми характеристиками: математическим ожиданием и дисперсией. Чтобы описать систему из двух случайных величин кроме «основных» характеристик используют так же корреляционный момент и коэффициент корреляции.
Корреляционным моментом µ_xy случайных величин X и У называют математическое ожидание произведения отклонений этих величин:

µ_xy = M { [ X – M(X) ] [ Y – M(Y) ] }

Для нахождения корреляционного момента дискретных величин используют формулу:

,

а для непрерывных величин — формулу :

Корреляционный момент характеризует наличие (отсутствие) связи между величинами X и У. Ниже будет доказано, что корреляционный момент равен нулю, если X и У независимы; Если же корреляционный момент для случайных величин X и Y не равен нулю, то между ними имеется завимость.

Замечание 1. Приняв во внимание, что отклонения есть центрированные случайные величины, можно дать корреляционному моменту определение, как математическому ожиданию произведения двух центрированных случайных величин:

µ_xy= М [X_цY_ц].

Замечание 2. Не сложно доказать, что корреляционный момент можно записать в виде

µ_xy= М (ХY) – М(X) М(У).

Теорема 1.  Корреляционный момент двух независимых случайных величин X и Y равен нулю.

Доказательство. Так как X и У— независимые случайные величины, то их отклонения X—М (X) и У—М (У) также независимы. Пользуясь свойствами математического ожидания (математическое ожидание произведения независимых случайных величин равно произведению математических ожиданий сомножителей) и отклонения (математическое ожидание отклонения равно нулю), получим

µ_xy= М {[X — М (X)] M[Y — M (У)]} = М [X — М (X)] M[Y — M (У)] = 0.

Из определения корреляционного момента следует, что он имеет размерность, равную произведению размерностей величин X и У. Другими словами, величина корреляционного момента зависит от единиц измерения случайных величин. По этой причине для одних и тех же двух величин величина корреляционного момента имеет различные значения в зависимости от того, в каких еди- ницах были измерены величины. Пусть, например, X и У были измерены в сантиметрах и µxy = 2 см2; если измерить X и У в миллиметрах,
то µxy = 200 мм. Такая особенность корреляционного мо-мента является недостатком этой числовой характеристики, поскольку сравнение корреляционных моментов различных систем случайных величин становится затруднительным. Для того чтобы устранить этот недостаток, вводят новую числовую характеристику—коэффициент корреляции.
Коэффициентом корреляции г_ху случайных величин X и У называют отношение корреляционного момента к произведению средних квадратических отклонений этих
величин:

r_xy= µ_xy/σ_xσ_y

Так как размерность µxy равна произведению размерностей величин X и У, σ_x имеет размерность величины X, σ_y имеет размерность величины Y, то r_xy —безразмерная величина. Таким образом, величина коэффициента корреляции не зависит от выбора единиц измерения случайных величин. В этом состоит преимущество коэффициента корреляции перед корреляционным моментом.
Очевидно, коэффициент корреляции независимых случайных величин равен нулю (так как µ_xy = 0).

Замечание 3. Во многих вопросах теории вероятностей целесообразно вместо случайной величины X рассматривать нормированную случайную величину X’, которую определяют как отношение отклонения к среднему квадратическому отклонению:

Х’ = (Х — М(Х))/σ_x.

Нормированная величина имеет математическое ожидание, равное нулю, и дисперсию, равную единице. Действительно, используя свойства математического ожидания и дисперсии, имеем:

Легко убедиться, что коэффициент корреляции r_ху равен корреляционному моменту нормированных величин Х’ и Y’ :

Теорема 2.  Абсолютная величина корреляционного момента двух случайных величин X и Y не превышает среднего геометрического их дисперсий:

Доказательство.  Введем в рассмотрение случайную величину Z₁= σ_yX — σ_xY и найдем ее дисперсию D(Z_l) = M[Z₁—m_Zl]². Выполнив выкладки, получим

D(Z₁) = 2σ_x²σ_y² – 2σ_xσ_yµ_xy

Любая дисперсия неотрицательна, поэтому

2σ_x²σ_y² – 2σ_xσ_yµ_xy ≥0.

Отсюда

µ_xy ≤ σ_xσ_y.

Введя случайную величину Z_t = σ_yX+ σ_xY, аналогично найдем

µ_xy ≥ − σ_xσ_y.

Объединим два этих неравенства:

σ_xσ_y ≤ µ_xy ≤ σ_xσ_y или | µ_xy | ≤ σ_xσ_y

Итак,

Теорема 3.  Абсолютная величина коэффициента корреляции не превышает единицы:

Доказательство:  Разделим обе части полученного двойного неравенства на произведение положительных чисел σxσy :

-1 ≤ r_xy ≤ 1

Итак,

| rxy | ≤ 1