Коваріаційна матриця

Двовимірна ґаусова функція густини ймовірності з центром в (0, 0) та коваріаційною матрицею [ 1.00, 0.50 ; 0.50, 1.00 ].

Точки вибірки з багатовимірного нормального розподілу зі стандартним відхиленням 3 у приблизно ліво-верхньому прямому напрямку та 1 у перпендикулярному напрямку. Оскільки складові x та y мають коваріацію, дисперсії x та y описують цей розподіл не повністю. Необхідна коваріаційна матриця 2×2; напрямки стрілок відповідають власним векторам цієї матриці коваріації, а їхні довжини — квадратним кореням власних значень.

Коваріаційна матриця (або коваріаційна таблиця) в теорії ймовірностей — це квадратна матриця, яка складена з попарних коваріацій і дисперсій двох або більше випадкових величин.

Визначення

• нехай $𝐗:\mathrm{\Omega }\to {ℝ}^n$, $𝐘:\mathrm{\Omega }\to {ℝ}^m$ — два випадкових вектора розмірності $n$ і $m$ відповідно. Нехай також випадкові величини $X_i,Y_j,i=1,\dots ,n,j=1,\dots ,m$ мають скінченний другий момент, тобто $X_i,Y_j\in L^2$. Тоді матрицею коваріації $𝐗,𝐘$ називається

$\mathrm{\Sigma }=\mathrm{c}\mathrm{o}\mathrm{v}(𝐗,𝐘)=𝔼[(𝐗-𝔼𝐗)(𝐘-𝔼𝐘{)}^{\mathrm{\top }}],$

тобто

$\mathrm{\Sigma }=({\sigma }_{ij})$,

де

${\sigma }_{ij}=\mathrm{c}\mathrm{o}\mathrm{v}(X_i,Y_j)\equiv 𝔼[(X_i-𝔼X_i)(Y_j-𝔼Y_j)],i=1,\dots ,n,j=1,\dots ,m$,

$𝔼$ — Математичне сподівання.

• Якщо $𝐗\equiv 𝐘$, то $\mathrm{\Sigma }$ називається матрицею коваріації вектора $𝐗$ і позначається $\mathrm{c}\mathrm{o}\mathrm{v}(𝐗)$. Така матриця коваріацій є узагальненням дисперсії для багатовимірної випадкової величини, а її слід — скалярним виразом дисперсії багатовимірної випадкової величини. Власні вектори і власні значення цієї матриці дозволяють оцінити розміри і форму хмари розподілу випадкової величини, апроксимувавши її еліпсоїдом (або еліпсом у двовимірному випадку) .

Зауваження

• Цей термін має також інші значення. Наприклад, матрицею коваріації називається матриця, складена з попарних коваріацій різних елементів одного випадкового вектора.

Властивості

• Скорочена формула для обчислення матриці коваріації:

$\mathrm{c}\mathrm{o}\mathrm{v}(𝐗)=𝔼\left[𝐗{𝐗}^{\mathrm{\top }}\right]-𝔼[𝐗]\cdot 𝔼\left[{𝐗}^{\mathrm{\top }}\right]$.

• Матриця коваріації випадкового вектора невід'ємно визначена:

$\mathrm{c}\mathrm{o}\mathrm{v}(𝐗)\ge 0$.

• Зміна масштабу:

$\mathrm{c}\mathrm{o}\mathrm{v}\left({𝐚}^{\mathrm{\top }}𝐗\right)={𝐚}^{\mathrm{\top }}\mathrm{c}\mathrm{o}\mathrm{v}(𝐗)𝐚,\mathrm{\forall }𝐚\in {ℝ}^n$.

• Якщо випадкові вектори $𝐗$ і $𝐘$ некорельовані ($\mathrm{c}\mathrm{o}\mathrm{v}(𝐗,𝐘)=\mathrm{𝟎}$), то

$\mathrm{c}\mathrm{o}\mathrm{v}(𝐗+𝐘)=\mathrm{c}\mathrm{o}\mathrm{v}(𝐗)+\mathrm{c}\mathrm{o}\mathrm{v}(𝐘)$.

• Матриця коваріації афінного перетворення:

$\mathrm{c}\mathrm{o}\mathrm{v}(𝐀𝐗+𝐛)=𝐀\mathrm{c}\mathrm{o}\mathrm{v}(𝐗){𝐀}^{\mathrm{\top }}$,

де $𝐀$ — довільна матриця розмірності $n\times n$, а $𝐛\in {ℝ}^n$.

• Перестановка аргументів:

$\mathrm{c}\mathrm{o}\mathrm{v}(𝐗,𝐘)=\mathrm{c}\mathrm{o}\mathrm{v}(𝐘,𝐗{)}^{\mathrm{\top }}$

• Матриця коваріації адитивна за кожним аргументом:

$\mathrm{c}\mathrm{o}\mathrm{v}({𝐗}_1+{𝐗}_2,𝐘)=\mathrm{c}\mathrm{o}\mathrm{v}({𝐗}_1,𝐘)+\mathrm{c}\mathrm{o}\mathrm{v}({𝐗}_2,𝐘)$,

$\mathrm{c}\mathrm{o}\mathrm{v}(𝐗,{𝐘}_1+{𝐘}_2)=\mathrm{c}\mathrm{o}\mathrm{v}(𝐗,{𝐘}_1)+\mathrm{c}\mathrm{o}\mathrm{v}(𝐗,{𝐘}_2)$.

• Якщо $𝐗$ і $𝐘$ незалежні, то

$\mathrm{c}\mathrm{o}\mathrm{v}(𝐗,𝐘)=\mathrm{𝟎}$.

Джерела

• Шаблон:Карташов.Імовірність процеси статистика
• Шаблон:Гнеденко.Курс теории вероятностей
• Шаблон:Гіхман.Скороход.Ядренко