Перегляд вихідного коду сторінки Багатовимірний нормальний розподіл

{{Розподіл ймовірностей
  | name       = Багатовимірний нормальний розподіл
  | type       = багатовимірний
  | pdf_image  = [[Image:MultivariateNormal.png|300px]]<br/> <small>Множина точок, що представляють елементарні події багатовимірного нормального розподілу із <math>\boldsymbol\mu = \left[\begin{smallmatrix}0 \\ 0\end{smallmatrix}\right]</math> і <math>\boldsymbol\Sigma = \left[\begin{smallmatrix}1 & 3/5 \\ 3/5 & 2\end{smallmatrix}\right]</math>, разом з якими показано еліпс розміром в 3-сігми, два маргінальні розподіли і дві 1-вимірні гістограми.</small>
  | cdf_image  =
  | notation   = <math>\mathcal{N}(\boldsymbol\mu,\,\boldsymbol\Sigma)</math>
  | parameters = '''''μ''''' ∈ '''R'''<sup>''k''</sup> — [[коефіцієнт зсуву]]<br/>'''Σ''' ∈ '''R'''<sup>''k×k''</sup> — [[коваріаційна матриця]] ([[додатноозначена матриця]])
  | support    = '''''x''''' ∈ '''μ''' + span('''Σ''') ⊆ '''R'''<sup>''k''</sup>
  | pdf        = <math>\operatorname{det}(2\pi\boldsymbol\Sigma)^{-\frac{1}{2}} \, e^{ -\frac{1}{2}(\mathbf{x} - \boldsymbol\mu)'\boldsymbol\Sigma^{-1}(\mathbf{x} - \boldsymbol\mu) },</math><br/>існує лише за умови, що '''Σ''' є [[Додатноозначена матриця|додатньоозначена матриця]]
  | cdf        = (не має аналітичного виразу)
  | mean       = '''''μ'''''
  | median     =
  | mode       = '''''μ'''''
  | variance   = '''Σ'''
  | skewness   =
  | kurtosis   =
  | entropy    = <math>\frac{1}{2} \ln \operatorname{det}\left(2 \pi \mathrm{e} \boldsymbol\Sigma\right)</math>
  | mgf        = <math>\exp\!\Big( \boldsymbol\mu'\mathbf{t} + \tfrac{1}{2} \mathbf{t}'\boldsymbol\Sigma \mathbf{t}\Big)</math>
  | char       = <math>\exp\!\Big( i\boldsymbol\mu'\mathbf{t} - \tfrac{1}{2} \mathbf{t}'\boldsymbol\Sigma \mathbf{t}\Big)</math>
  }}

'''Багатовимірний нормальний розподіл''' (чи '''багатовимірний гаусів розподіл''') у [[теорія ймовірностей|теорії ймовірностей]] — це узагальнення одновимірного [[нормальний розподіл|нормального розподілу]] для випадку із багатьма [[Розмірність простору|вимірами]]. Відповідно до одного із визначень стверджують, що вектор випадкових величин має ''k''-варіативний нормальний розподіл якщо кожна [[Лінійна комбінація|лінійна комбінація]] його ''k'' компонент має одновимірний нормальний розподіл. В основному його важливість випливає із узагальнення [[Центральна гранична теорема|центральної граничної теореми для багатьох вимірів]]. Багатовимірний нормальний розподіл часто використовують аби описати, принаймні наближено, будь-яку множину (можливо) [[Кореляція|корельованих]] [[Випадкова величина|випадкових величин]] із [[Дійсне число|дійсними]] значенням, кожна з яких скупчується довкола середнього значення.

== Позначення і параметризація ==
Багатовимірний нормальний розподіл ''k''-вимірного вектору випадкових величин {{nowrap|'''X''' {{=}} [''X''<sub>1</sub>, ''X''<sub>2</sub>, …, ''X<sub>k</sub>'']<sup>T</sup>}} може записуватися у формі наступної нотації:
: <math>
    \mathbf{X}\ \sim\ \mathcal{N}(\boldsymbol\mu,\, \boldsymbol\Sigma),
  </math>
або із метою явно зазначити, що ''X'' є ''k''-вимірним:
: <math>
    \mathbf{X}\ \sim\ \mathcal{N}_k(\boldsymbol\mu,\, \boldsymbol\Sigma),
  </math>
із ''k''-вимірним [[Середнє значення|вектором середніх значень]]
:<math> \boldsymbol\mu = \operatorname{E}[\mathbf{X}] = [ \operatorname{E}[X_1], \operatorname{E}[X_2], \ldots, \operatorname{E}[X_k]]^{\rm T}, </math>
і [[Коваріаційна матриця|матрицею коваріацій]] <math>k \times k</math>
:<math> \boldsymbol\Sigma = :\operatorname{E} [(\mathbf{X} - \boldsymbol \mu)( \mathbf{X} - \boldsymbol \mu)^{\rm T}] =  [ \operatorname{Cov}[X_i, X_j]; 1 \le i,j \le k ].</math>

== Визначення ==
[[Випадковий вектор]] <math>\mathbf{X} = (X_1,\ldots, X_n)^{\top}: \Omega \to \mathbb{R}^n</math> має багатовимірний нормальний розподіл, якщо виконується одне з наступних еквівалентних умов:

* Довільна [[лінійна комбінація]] компонентів вектора <math>\sum\limits_{i=1}^n a_i X_i</math> має нормальний розподіл є константою.
* Існує вектор незалежних стандартних нормальних випадкових величин <math>\mathbf{Z}=(Z_1,\ldots, Z_m)^{\top}</math>, дійсний вектор <math>\mathbf{\mu} = (\mu_1,\ldots, \mu_n)^{\top}</math> і [[матриця (математика)|матриця]] <math>\mathbf{A}</math> розмірності <math>n \times m</math>, такі що:
: <math>\mathbf{X} = \mathbf{A} \mathbf{Z} + \mathbf{\mu}</math>.

* Існує вектор <math>\mathbf{\mu} \in \mathbb{R}^n</math> і додатньо визначена [[симетрична матриця]] <math>\mathbf{\Sigma}</math> розмірності <math>n \times n</math>, такі що [[характеристична функція]] вектора <math>\mathbf{X}</math> має вид:
: <math>\phi_{\mathbf{X}}(\mathbf{u}) = e^{i \mathbf{\mu}^{\top} \mathbf{u} - \frac{1}{2}\mathbf{u}^{\top} \Sigma \mathbf{u}},\; \mathbf{u} \in \mathbb{R}^n</math>.

== Зауваження ==

* Якщо розглядати тільки розподілу з невиродженою коваріаційною матрицею, то еквівалентним буде також наступне визначення:

:

:Існує вектор <math>\mathbf{\mu} \in \mathbb{R}^n</math> і додатно визначена симетрична матриця <math>\mathbf{\Sigma}</math> розмірності <math>n \times n</math>, такі що щільність ймовірності вектора <math>\mathbf{X}</math> має вид:

:

:: <math>f_{\mathbf{X}}(\mathbf{x}) = \frac{1}{(2\pi )^{n/2} \vert \Sigma \vert^{1/2}} e^{-\frac{1}{2}(\mathbf{x} - \mathbf{\mu})^{\top} \Sigma^{-1} (\mathbf{x} - \mathbf{\mu})},\; \mathbf{x} \in \mathbb{R}^n</math>,

:

:де <math>\vert \Sigma\vert </math> — [[визначник]] матриці <math>\Sigma</math>, а <math>\Sigma^{-1}</math> — матриця зворотна до <math>\Sigma</math>


* Вектор <math>\mathbf{\mu}</math> є вектором середніх значень <math>\mathbf{X}</math>, а <math>\Sigma</math> — його коваріаційна матриця
* У випадку <math>n = 1</math>, багатовимірний нормальний розподіл зводиться до звичайного нормального розподілу.
* Якщо випадковий вектор <math>\mathbf{X}</math> має багатовимірний нормальний розподіл, то пишуть <math>\mathbf{X} \sim \mathrm{N}(\mathbf{\mu},\Sigma)</math>.

== Властивості ==

* Якщо вектор <math>\mathbf{X} = (X_1,\ldots, X_n)^{\top}</math> має багатовимірний нормальний розподіл, то його компоненти <math>X_i, i=1,\ldots, n,</math> мають одновимірний нормальний розподіл. Зворотне, узагалі говорячи, невірно (див. приклад [http://risktheory.ru/topic_normmarg.htm] {{Webarchive|url=https://web.archive.org/web/20121215090348/http://www.risktheory.ru/topic_normmarg.htm |date=15 грудня 2012 }})!
* Якщо випадкові величини <math>X_1,\ldots,X_n</math> мають одномірний нормальний розподіл і спільно незалежні, те випадковий вектор <math>\mathbf{X} = (X_1,\ldots, X_n)^{\top}</math> має багатовимірний нормальний розподіл. Матриця коваріацій <math>\Sigma</math> такого вектора [[діагональна матриця|діагональна]].
* Якщо <math>\mathbf{X} = (X_1,\ldots, X_n)^{\top}</math> має багатовимірний нормальний розподіл, і його компоненти попарно некорельовані, то вони незалежні. Однак, якщо тільки компоненти <math>X_i,\; i = 1 , \ldots, n</math> мають одномірний нормальний розподіл і попарно не корелюють, те звідси ''не'' випливає, що вони незалежні.

: '''Контрприклад.''' Нехай <math>X \sim \mathrm{N}(0,1)</math>, а <math>\alpha = \pm 1</math> з рівними ймовірностями. Тоді якщо <math>Y = \alpha X \sim \mathrm{N}(0,1)</math>, те кореляція <math>X</math> і <math>Y</math> дорівнює нулю. Однак, ці випадкові величини залежні.
* Багатовимірний нормальний розподіл стійко щодо лінійних перетворень. Якщо <math>\mathbf{X} \sim \mathrm{N}(\mathbf{\mu},\Sigma)</math>, а <math>\mathbf{A}</math> — довільна матриця розмірності <math>m \times n</math>, то
: <math>\mathbf{A}\mathbf{X} \sim \mathrm{N}\left(\mathbf{A}\mathbf{\mu},\mathbf{A}\Sigma \mathbf{A}^{\top}\right)</math>.

===Функція густини===
[[File:Multivariate Gaussian.png|thumb|right|300px|[[Спільний_розподіл#Функція_густини_чи_функція_маси|Спільна функція густини]] біваріативного нормального розподілу]]

====Не вироджений випадок====
Багатовимірний нормальний розподіл називають "не виродженим" коли його симетрична [[Коваріаційна матриця|матриця коваріацій]] <math>\boldsymbol\Sigma</math> є [[Додатноозначена матриця|додатньоозначеною]]. В такому випадку розподіл має [[Густина імовірності|функцію густини]]:<ref>[http://www.math.uiuc.edu/~r-ash/Stat/StatLec21-25.pdf UIUC, Lecture 21. ''The Multivariate Normal Distribution''] {{Webarchive|url=https://web.archive.org/web/20160623194512/http://www.math.uiuc.edu/~r-ash/Stat/StatLec21-25.pdf |date=23 червня 2016 }}, 21.5:"Finding the Density".</ref>

:<math>
\begin{align}
f_{\mathbf X}(x_1,\ldots,x_k)
& = \frac{\exp\left(-\frac 1 2 ({\mathbf x}-{\boldsymbol\mu})^\mathrm{T}{\boldsymbol\Sigma}^{-1}({\mathbf x}-{\boldsymbol\mu})\right)}{\sqrt{(2\pi)^k|\boldsymbol\Sigma|}}
\end{align}
</math>

де <math>{\mathbf x}</math> це ''k''-вимірний вектор стовпець дійсних чисел і <math>|\boldsymbol\Sigma|\equiv \operatorname{det}\boldsymbol\Sigma</math> це [[детермінант]] для <math>\boldsymbol\Sigma</math>, відомий також як [[узагальнена дисперсія]]. Вищенаведене рівняння спрощується до аналогічного рівняння, що відповідає одновимірному нормальному розподілу якщо <math>\boldsymbol\Sigma</math> є матрицею розміром <math>1 \times 1</math> (тобто єдиним дійсним числом).

Циркулярно-симетрична версія комплексного нормального розподілу має дещо відмінну форму.

Кожен [[окіл]] ізо-густини&mdash;окіл точок в ''k''-вимірному просторі, в кожній з яких буде деяке стале значення густини &mdash;є [[Еліпс|еліпсом]] або його узагальненням для більших вимірів; оскільки багатовимірний нормальний розподіл є особливим випадком [[Еліптичний розподіл|еліптичних розподілів]].

В описовій статистиці <math>\sqrt{({\mathbf x}-{\boldsymbol\mu})^\mathrm{T}{\boldsymbol\Sigma}^{-1}({\mathbf x}-{\boldsymbol\mu})}</math> відомо як [[відстань Махаланобіса]], яка задає відстань обраної точки <math>{\mathbf x}</math> від середнього <math>{\boldsymbol\mu}</math>. Зауважте, що у випадку коли <math>k = 1</math>, розподіл зводиться до одновимірного нормального розподілу, і відстань Махаланобіса зводиться до абсолютного значення [[Стандартизована оцінка|стандартної оцінки]].

====Біваріативний випадок====
У 2-вимірному несингулярному випадку ({{nowrap|1=''k'' = rank(Σ) = 2}}), [[Густина імовірності|функція густини імовірності]] для вектору {{nowrap|[''X'' ''Y'']′}} є наступною:

: <math>
    f(x,y) =
      \frac{1}{2 \pi  \sigma_X \sigma_Y \sqrt{1-\rho^2}}
      \exp\left(
        -\frac{1}{2(1-\rho^2)}\left[
          \frac{(x-\mu_X)^2}{\sigma_X^2} +
          \frac{(y-\mu_Y)^2}{\sigma_Y^2} -
          \frac{2\rho(x-\mu_X)(y-\mu_Y)}{\sigma_X \sigma_Y}
        \right]
      \right)
</math>

де ''ρ''&nbsp;— [[Коефіцієнт кореляції Пірсона|кореляція]] між ''X'' і ''Y'' і
де <math> \sigma_X>0 </math> і <math> \sigma_Y>0 </math>. В такому випадку,
: <math>
    \boldsymbol\mu = \begin{pmatrix} \mu_X \\ \mu_Y \end{pmatrix}, \quad
    \boldsymbol\Sigma = \begin{pmatrix} \sigma_X^2 & \rho \sigma_X \sigma_Y \\
                             \rho \sigma_X \sigma_Y  & \sigma_Y^2 \end{pmatrix}.
  </math>
У біваріативному випадку, перша еквівалентна умова встановлення нормальності багатовимірного розподілу може бути менш сувора: для того, щоб зробити висновок чи є вектор {{nowrap|[X Y]′}} біваріативно нормальним достатньо перевірити чи [[Зліченна множина|зліченно велика кількість]] відмінних лінійних комбінацій X і Y є нормально розподілені.<ref name=HT>{{cite journal
  | last1 = Hamedani | first1 = G. G.
  | last2 = Tata     | first2 = M. N.
  | year = 1975
  | title = On the determination of the bivariate normal distribution from distributions of linear combinations of the variables
  | url = https://archive.org/details/sim_american-mathematical-monthly_1975-11_82_9/page/913 | journal = The American Mathematical Monthly
  | volume = 82 | issue = 9   | pages = 913–915
  | doi = 10.2307/2318494
  }}</ref>

Біваріативні околи ізо-густини на площині ''x,y'' є еліпсами. Із збільшенням абсолютного значення коефіцієнту кореляції ''ρ'', ці околи будуть сплющуватися до наступної прямої :

: <math>
    y(x) = \sgn (\rho)\frac{\sigma_Y}{\sigma_X} (x - \mu _X) + \mu_Y.
  </math>

Це пояснюється тим, що якщо в даному виразі sgn(''ρ'') замінити на ''ρ'', воно є {{нп|Найкраще лінійне незміщене передбачення|найкращим лінійним незміщеним передбаченням|en|best linear unbiased prediction}} для ''Y'', що задане значенням ''X''.<ref name=wyattlms>{{cite web|last=Wyatt|first=John|title=Linear least mean-squared error estimation|url=http://web.mit.edu/6.041/www/LECTURE/lec22.pdf|work=Lecture notes course on applied probability|accessdate=23 січня 2012|archive-date=10 жовтня 2015|archive-url=https://web.archive.org/web/20151010114443/http://web.mit.edu/6.041/www/LECTURE/lec22.pdf}} {{Webarchive|url=https://web.archive.org/web/20151010114443/http://web.mit.edu/6.041/www/LECTURE/lec22.pdf |date=2015-10-10 }}</ref>

== Багатовимірна центральна гранична теорема ==
Нехай <math>\xi^{(1)}, \xi^{(2)},...</math>&nbsp;— послідовність незалежних і однаково розподілених випадкових векторів, кожний з який має середнє <math>E\xi^{(1)}=a</math> і невироджену матрицю коваріацій <math>\Sigma</math> . Позначимо через <math>S_n \xi^{(1)}+...+\xi^{(n)}</math> вектор часткових сум. 
Тоді при <math>n \to \infty</math>  має місце збіжність розподілів векторів <math>\eta^{(n)}= \frac{S_n-na}{\sqrt{n}} \Rightarrow \eta</math>, де <math>\eta</math> має розподіл   <math>N_{O, \Sigma}</math>.
В умовах багатовимірної [[центральна гранична теорема|центральної граничної теореми]] розподіл будь-яких неперервних функцій <math>g(\eta^{(n)})</math> збігається до розподілу <math>g(\eta)</math>. Як <math>g(x)</math> нам буде потрібна тільки <math>g(
x)=\sum x_i^2=\|x\|^2</math>.

===Наслідок===
В умовах багатовимірної центральної граничної теореми має місце збіжність <math>\|\eta^{(n)}\|^2 \Rightarrow \|\eta\|^2</math>.

== Примітки ==
{{reflist}}

{{Перекласти|en|Multivariate normal distribution|дата=грудень 2021}}

{{Список розподілів ймовірності}}

[[Категорія:Неперервні розподіли]]
[[Категорія:Нормальний розподіл]]
[[Категорія:Розподіли експоненційного сімейства]]
[[Категорія:Стійкі розподіли]]
[[Категорія:Ймовірнісні розподіли]]