Перегляд вихідного коду сторінки Кореляція

{{Short description|Статистичне поняття}}
{{About|кореляцію та залежність у статистичних даних||Кореляція (значення)}}
[[Файл:Correlation_examples2.svg|праворуч|міні|400x400пкс| Декілька наборів точок (''x'',&nbsp;''y''), з [[Коефіцієнт кореляції Пірсона|коефіцієнтами кореляції Пірсона]] ''x'' та ''y'' для кожного набору. Кореляція відображає зашумленість і напрямок лінійного взаємозв'язку (верхній ряд), але ані нахил цього взаємозв'язку (середній), ані багато аспектів нелінійних взаємозв'язків (нижній). Примітка: фігура в центрі має нахил 0, але в цьому випадку коефіцієнт кореляції невизначений, оскільки дисперсія ''Y'' дорівнює нулеві.]]

У [[Статистика|статистиці]] '''кореля́ція''' ({{lang-en|correlation}}) або '''зале́жність''' ({{lang-en|dependence}})&nbsp;— це будь-який статистичний взаємозв'язок, [[Причинність|причинний]] чи ні, між двома [[Випадкова змінна|випадковими змінними]] або {{нп|Двовимірні дані|двовимірними даними||Bivariate data}}. Хоч у найширшому сенсі «кореляція» й може вказувати на будь-який тип пов'язаності, у статистиці вона зазвичай означає ступінь, до якого пара змінних пов'язані ''[[Пряма|лінійно]]''. До добре відомих прикладів залежних явищ належать кореляція між [[Зріст людини|зростом]] батьків та їхніх нащадків, а також кореляція між ціною товару та кількістю, яку споживачі готові придбати, як це зображують на так званій [[Крива попиту|кривій попиту]].

Кореляції корисні, бо вони можуть вказувати на передбачальний зв'язок, який можливо використовувати на практиці. Наприклад, енергогенерувальна компанія може виробляти менше електроенергії в день з помірною погодою на основі кореляції між попитом на електроенергію та погодою. У цьому прикладі існує [[причинно-наслідковий зв'язок]], оскільки [[екстремальна погода]] змушує людей використовувати більше електроенергії для опалення чи кондиціювання. Проте в загальному випадку, щоби зробити висновок про наявність причинно-наслідкового зв'язку, наявності кореляції недостатньо (тобто, [[кореляція не означає спричинювання]]).

Формально випадкові змінні ''залежні'', якщо вони не задовольняють математичній властивості [[Імовірнісна незалежність|ймовірнісної незалежності]]. Неформальною мовою ''кореляція'' є синонімом ''залежності''. Проте при використанні в технічному сенсі кореляція означає будь-яку з декількох конкретних типів математичних операцій між [[Умовне математичне сподівання|випробуваними змінними та їхніми відповідними математичними сподіваннями]]. По суті, кореляція&nbsp;— це міра того, як дві чи більше змінні пов'язані одна з одною. Існує декілька [[Коефіцієнт кореляції|коефіцієнтів кореляції]], часто позначуваних через <math>\rho</math> або <math>r</math>, які вимірюють ступінь кореляції. Найпоширеніший з них&nbsp;— ''[[коефіцієнт кореляції Пірсона]]'', чутливий лише до лінійного взаємозв'язку між двома змінними (який може мати місце, навіть якщо одна змінна є нелінійною функцією іншої). Інші коефіцієнти кореляції&nbsp;— наприклад, ''[[Коефіцієнт рангової кореляції Спірмена|рангову кореляцію Спірмена]]'',&nbsp;— було розроблено для більшої [[Робастність у статистиці|робастності]], ніж в пірсонового, тобто більшої чутливості до нелінійних взаємозв'язків.<ref>Croxton, Frederick Emory; Cowden, Dudley Johnstone; Klein, Sidney (1968) ''Applied General Statistics'' {{ref-en}}, Pitman. {{ISBN|9780273403159}} (page 625)</ref><ref>Dietrich, Cornelius Frank (1991) ''Uncertainty, Calibration and Probability: The Statistics of Scientific and Industrial Measurement'' 2nd Edition {{ref-en}}, A. Higler. {{ISBN|9780750300605}} (Page 331)</ref><ref>Aitken, Alexander Craig (1957) ''Statistical Mathematics'' 8th Edition {{ref-en}}. Oliver & Boyd. {{ISBN|9780050013007}} (Page 95)</ref> Для вимірювання взаємозалежності двох змінних також можливо застосовувати [[Взаємна інформація|взаємну інформацію]].

== Коефіцієнт кореляції моменту добутку Пірсона ==
{{Main|Коефіцієнт кореляції моменту добутку Пірсона}}
[[Файл:Pearson_Correlation_Coefficient_and_associated_scatterplots.png|міні|Приклади діаграм розсіювання різних наборів даних з різними коефіцієнтами кореляції.]]

Найбільш загальновідомою мірою залежності між двома величинами є [[коефіцієнт кореляції моменту добутку Пірсона]] ({{lang-en|Pearson product-moment correlation coefficient, PPMCC}}), або «коефіцієнт кореляції Пірсона» ({{lang-en|Pearson's correlation coefficient}}), який зазвичай називають просто «коефіцієнт кореляції» ({{lang-en|the correlation coefficient}}). Його отримують взяттям відношення коваріації двох розгляданих змінних нашого чисельного набору даних, унормованої квадратним коренем їхніх дисперсій. Математично, [[Коваріація|коваріацію]] цих двох змінних просто ділять на добуток їхніх [[Стандартне відхилення|стандартних відхилень]]. [[Карл Пірсон]] розробив цей коефіцієнт на основі подібної, але дещо відмінної ідеї [[Френсіс Гальтон|Френсіса Гальтона]].<ref name="thirteenways">{{Cite journal|last=Rodgers|first=J. L.|last2=Nicewander|first2=W. A.|year=1988|title=Thirteen ways to look at the correlation coefficient|url=https://archive.org/details/sim_american-statistician_1988-02_42_1/page/59|journal=The American Statistician|language=en|volume=42|issue=1|pages=59–66|doi=10.1080/00031305.1988.10475524|jstor=2685263}}</ref>

Коефіцієнт кореляції Пірсона намагається встановити лінію, яка найкраще допасовується до набору даних із двох змінних, по суті викладаючи очікувані значення, а отриманий коефіцієнт кореляції Пірсона вказує, наскільки далеким від очікуваних значень є фактичний набір даних. Залежно від знаку нашого коефіцієнта кореляції Пірсона ми можемо отримати як від'ємну, так і додатну кореляцію, якщо якийсь зв'язок між змінними нашого набору даних існує.{{джерело|дата=січень 2024}}

[[Генеральна сукупність|Генеральний]] коефіцієнт кореляції ({{lang-en|population correlation coefficient}}) <math>\rho_{X,Y}</math> між двома [[Випадкова змінна|випадковими змінними]] <math>X</math> та <math>Y</math> з [[Математичне сподівання|математичними сподіваннями]] <math>\mu_X</math> та <math>\mu_Y</math> та [[Стандартне відхилення|стандартними відхиленнями]] <math>\sigma_X</math> та <math>\sigma_Y</math> визначають як

<math display=block>\rho_{X,Y} = \operatorname{corr}(X,Y) = {\operatorname{cov}(X,Y) \over \sigma_X \sigma_Y} = {\operatorname{E}[(X-\mu_X)(Y-\mu_Y)] \over \sigma_X\sigma_Y}, \quad \text{if}\ \sigma_{X}\sigma_{Y}>0.</math>

де <math>\operatorname{E}</math>&nbsp;— оператор [[Математичне сподівання|математичного сподівання]], <math>\operatorname{cov}</math> означає [[Коваріація|коваріацію]], а <math>\operatorname{corr}</math>&nbsp;— широко вживане альтернативне позначення коефіцієнту кореляції. Кореляція Пірсона визначається лише в тому випадку, якщо обидва стандартні відхилення є скінченними й додатними. Альтернативною формулою чисто в термінах [[Момент (математика)|моментів]] є

<math display=block>\rho_{X,Y} =  {\operatorname{E}(XY)-\operatorname{E}(X)\operatorname{E}(Y)\over \sqrt{\operatorname{E}(X^2)-\operatorname{E}(X)^2}\cdot \sqrt{\operatorname{E}(Y^2)-\operatorname{E}(Y)^2} }</math>

=== Кореляція та незалежність ===

Наслідком [[Нерівність Коші — Буняковського|нерівності Коші&nbsp;— Буняковського]] є те, що [[Модуль (математика)|модуль]] коефіцієнта кореляції Пірсона не перевищує 1. Таким чином, значення коефіцієнта кореляції лежать у проміжку з &minus;1 по +1. Коефіцієнт кореляції дорівнює +1 у випадку ідеального прямого (висхідного) лінійного взаємозв'язку (кореляції), &minus;1 у випадку ідеального зворотного (спадного) лінійного взаємозв'язку ('''антикореля́ція''', {{lang-en|anti-correlation}}),<ref>Dowdy, S. and Wearden, S. (1983). "Statistics for Research" {{ref-en}}, Wiley. {{ISBN|0-471-08602-9}} pp 230</ref> і деякому значенню в [[Інтервал (математика)|інтервалі]] <math>(-1,1)</math> у всіх інших випадках, показуючи ступінь [[Лінійна залежність|лінійної залежності]] між змінними. У міру його наближення до нуля взаємозв'язок послаблюється (ближче до некорельованих). Що ближчий цей коефіцієнт до &minus;1 чи 1, то сильніша кореляція між змінними.

Якщо змінні [[Незалежність (теорія ймовірностей)|незалежні]], то коефіцієнт кореляції Пірсона дорівнює 0, але зворотне не істинне, оскільки коефіцієнт кореляції виявляє лише лінійні залежності між двома змінними. Простіше кажучи, якщо дві випадкові змінні <math>X</math> та <math>Y</math> незалежні, то вони некорельовані, але якщо дві випадкові змінні некорельовані, то вони можуть бути, а можуть і не бути незалежними.

<math display=block>\begin{align}
X,Y \text{ незалежні } \quad & \Rightarrow \quad \rho_{X,Y} = 0 \quad (X,Y \text{ некорельовані })\\
\rho_{X,Y} = 0 \quad (X,Y \text{ некорельовані })\quad & \nRightarrow \quad X,Y \text{ незалежні }
\end{align}</math>

Наприклад, припустімо, що випадкова змінна <math>X</math> симетрично розподілена навколо нуля, а <math>Y=X^2</math>. Тоді <math>Y</math> цілком визначено через <math>X</math>, тож <math>X</math> та <math>Y</math> цілком залежні, але їхня кореляція дорівнює нулеві: вони [[Некорельованість|некорельовані]]. Проте в особливому випадку, коли <math>X</math> та <math>Y</math> {{нп|Спільна нормальність|спільно нормальні||Joint normality}}<!-- Проблема вікіфікації: Сторінка [[:en:Joint normality]] (→ [[:en:Multivariate normal distribution#Joint normality]]) перекладена як [[Багатовимірний нормальний розподіл]], хоча хотіли [[Спільна нормальність]] (SashkoR0B0T)-->, некорельованість рівнозначна незалежності.

Незважаючи на те, що некорельованість даних не обов'язково означає незалежність, можливо пересвідчуватися, що випадкові змінні незалежні, якщо їхня [[взаємна інформація]] дорівнює 0.

=== Ви́бірковий коефіцієнт кореляції ===

За заданого ряду з <math>n</math> вимірів пари <math>(X_i,Y_i)</math>, пронумерованих за <math>i=1,\ldots,n</math>, для оцінювання генеральної кореляції Пірсона <math>\rho_{X,Y}</math> між <math>X</math> та <math>Y</math> можливо використовувати ''ви́бірковий коефіцієнт кореляції'' ({{lang-en|sample correlation coefficient}}). Цей вибірковий коефіцієнт кореляції визначають як

: <math>
r_{xy} \quad \overset{\underset{\mathrm{def}}{}}{=} \quad \frac{\sum\limits_{i=1}^n (x_i-\bar{x})(y_i-\bar{y})}{(n-1)s_x s_y}
   =\frac{\sum\limits_{i=1}^n (x_i-\bar{x})(y_i-\bar{y})}
      {\sqrt{\sum\limits_{i=1}^n (x_i-\bar{x})^2 \sum\limits_{i=1}^n (y_i-\bar{y})^2}},
</math>

де <math>\overline{x}</math> та <math>\overline{y}</math>&nbsp;— вибіркові [[Середнє арифметичне|середні значення]] <math>X</math> та <math>Y</math>, а <math>s_x</math> та <math>s_y</math>&nbsp;— [[Скориговане вибіркове стандартне відхилення|скориговані вибіркові стандартні відхилення]] <math>X</math> та <math>Y</math>.

Еквівалентними виразами для <math>r_{xy}</math> є

: <math>
\begin{align}
r_{xy} &=\frac{\sum x_iy_i-n \bar{x} \bar{y}}{n s'_x s'_y} \\[5pt]
    &=\frac{n\sum x_iy_i-\sum x_i\sum y_i}{\sqrt{n\sum x_i^2-(\sum x_i)^2}~\sqrt{n\sum y_i^2-(\sum y_i)^2}}.
\end{align}
</math>

де <math>s'_x</math> та <math>s'_y</math>&nbsp;— [[Нескориговане вибіркове стандартне відхилення|''нескориговані'' вибіркові стандартні відхилення]] <math>X</math> та <math>Y</math>.

Якщо <math>x</math> та <math>y</math>&nbsp;— результати вимірювань, що містять похибку вимірювання, то реалістичні межі коефіцієнта кореляції становлять не від &minus;1 до +1, а менший проміжок.<ref>{{Cite journal|last=Francis|first=DP|last2=Coats AJ|last3=Gibson D|year=1999|title=How high can a correlation coefficient be?|journal=Int J Cardiol|language=en|volume=69|issue=2|pages=185–199|doi=10.1016/S0167-5273(99)00028-5|pmid=10549842}}</ref> Для випадку лінійної моделі з єдиною незалежною змінною [[Коефіцієнт детермінації|коефіцієнтом детермінації (''R''-квадрат)]] є квадрат <math>r_{xy}</math>, коефіцієнту кореляції Пірсона.

== Приклад ==

Розгляньмо [[спільний розподіл]] імовірності {{mvar|X}} та {{mvar|Y}}, наведений у таблиці нижче.

: {| class="wikitable" style="text-align:center;"
|+ <math>\mathrm{P}(X=x,Y=y)</math>
! {{diagonal split header|{{mvar|x}}|{{mvar|y}}}}
!&minus;1
!0
!1
|-
!0
|0
|{{sfrac|1|3}}
|0
|-
!1
|{{sfrac|1|3}}
|0
|{{sfrac|1|3}}
|}

[[Відособлений розподіл|Відособлені розподіли]] для цього спільного розподілу:

: <math>\mathrm{P}(X=x)=
\begin{cases}
\frac 1 3 & \quad \text{для } x=0 \\
\frac 2 3 & \quad \text{для } x=1 
\end{cases}
</math>

: <math>\mathrm{P}(Y=y)=
\begin{cases}
\frac 1 3 & \quad \text{для } y=-1 \\
\frac 1 3 & \quad \text{для } y=0 \\
\frac 1 3 & \quad \text{для } y=1 
\end{cases}
</math>

Це дає наступні математичні сподівання та дисперсії:

: <math>\mu_X = \frac 2 3</math>
: <math>\mu_Y = 0</math>
: <math>\sigma_X^2 = \frac 2 9</math>
: <math>\sigma_Y^2 = \frac 2 3</math>

Отже,

: <math>
\begin{align}
\rho_{X,Y} & = \frac{1}{\sigma_X \sigma_Y} \mathrm{E}[(X-\mu_X)(Y-\mu_Y)] \\[5pt]
& = \frac{1}{\sigma_X \sigma_Y} \sum_{x,y}{(x-\mu_X)(y-\mu_Y) \mathrm{P}(X=x,Y=y)} \\[5pt]
& = \left(1-\frac 2 3\right)(-1-0)\frac{1}{3} + \left(0-\frac 2 3\right)(0-0)\frac{1}{3} + \left(1-\frac 2 3\right)(1-0)\frac{1}{3} = 0.
\end{align}
</math>

== Коефіцієнти рангової кореляції ==
{{Main|Коефіцієнт рангової кореляції Спірмена|Коефіцієнт рангової кореляції тау Кендалла}}

Коефіцієнти [[Рангова кореляція|рангової кореляції]], як-от [[коефіцієнт рангової кореляції Спірмена]] та [[Коефіцієнт рангової кореляції Кендалла|коефіцієнт рангової кореляції Кендалла (τ)]], вимірюють, до якої міри в разі збільшення однієї змінної інша змінна схильна збільшуватися, не вимагаючи, щоби це збільшення було подано лінійною залежністю. Якщо за збільшення однієї змінної інша ''зменшується'', то коефіцієнти рангової кореляції будуть від'ємними. Ці коефіцієнти рангової кореляції часто розглядають як альтернативи коефіцієнту Пірсона, яку використовують або для зменшення кількості обчислень, або для того, щоби зробити коефіцієнт менш чутливим до не нормальності в розподілах. Проте ця точка зору має мало математичних підстав, оскільки коефіцієнти рангової кореляції вимірюють інший тип зв'язку, ніж [[коефіцієнт кореляції Пірсона]], і їх найкраще розглядати як показники іншого типу зв'язку, а не як альтернативну міру генерального коефіцієнту кореляції.<ref name="Yule and Kendall">Yule, G.U and Kendall, M.G. (1950), "An Introduction to the Theory of Statistics", 14th Edition (5th Impression 1968) {{ref-en}}. Charles Griffin & Co. pp 258–270</ref><ref name="Kendall Rank Correlation Methods">Kendall, M. G. (1955) "Rank Correlation Methods" {{ref-en}}, Charles Griffin & Co.</ref>

Щоби унаочнити природу рангової кореляції та її відмінність від лінійної кореляції, розгляньмо наступні чотири пари чисел <math>(x,y)</math>:

: (0,&nbsp;1), (10,&nbsp;100), (101,&nbsp;500), (102,&nbsp;2000).

В міру просування від кожної пари до наступної <math>x</math> збільшується, й те саме робить <math>y</math>. Цей взаємозв'язок ідеальний, у тому сенсі, що збільшення в <math>x</math> ''завжди'' супроводжується збільшенням в <math>y</math>. Це означає, що ми маємо ідеальну рангову кореляцію, й обидва коефіцієнти кореляції Спірмена та Кендалла дорівнюють 1, тоді як у цьому прикладі коефіцієнт кореляції Пірсона дорівнює 0,7544, вказуючи на те, що точки далеко не лежать на одній прямій. Так само, якщо <math>y</math> завжди ''зменшується,'' коли <math>x</math> ''збільшується'', коефіцієнти рангової кореляції становитимуть &minus;1, тоді як коефіцієнт кореляції Пірсона може бути або не бути близьким до &minus;1, залежно від того, наскільки близько до прямої лінії розташовані ці точки. Хоча в граничних випадках ідеальної рангової кореляції ці два коефіцієнти рівні (чи то обидва +1, чи обидва &minus;1), зазвичай це не так, і тому значення цих двох коефіцієнтів неможливо порівнювати змістовно.<ref name="Yule and Kendall"/> Наприклад, для трьох пар (1,&nbsp;1) (2,&nbsp;3) (3,&nbsp;2) коефіцієнт Спірмена дорівнює 1/2, а коефіцієнт Кендалла дорівнює 1/3.

== Інші міри залежності між випадковими змінними ==
{{Див. також|Коефіцієнт кореляції Пірсона#Варіанти}}

Інформації, яку надає коефіцієнт кореляції, недостатньо для визначення структури залежності між випадковими змінними.<ref name="wilmottM.com">{{Cite journal|last=Mahdavi Damghani B.|year=2013|title=The Non-Misleading Value of Inferred Correlation: An Introduction to the Cointelation Model|journal=Wilmott Magazine|language=en|volume=2013|issue=67|pages=50–61|doi=10.1002/wilm.10252}}</ref> Коефіцієнт кореляції повністю визначає структуру залежності лише в дуже окремих випадках, наприклад, коли розподіл є [[Багатовимірний нормальний розподіл|багатовимірним нормальним розподілом]] (див. рисунок вище). У випадку [[Еліптичний розподіл|еліптичних розподілів]] він характеризує (гіпер-)еліпси рівної густини, проте він не повністю характеризує структуру залежності (наприклад, ступені вільності {{нп|Багатовимірний t-розподіл|багатовимірного ''t''-розподілу||Multivariate t-distribution}} визначають рівень хвостової залежності).

Для подолання того недоліку кореляції Пірсона, що вона може бути нульовою для залежних змінних, було запропоновано {{нп|Кореляція по віддалі|кореляцію по віддалі||Distance correlation}} ({{lang-en|distance correlation}}),<ref>{{Cite journal|last=Székely|first=G. J. Rizzo|last2=Bakirov|first2=N. K.|year=2007|title=Measuring and testing independence by correlation of distances|journal={{нп|Annals of Statistics}}|language=en|volume=35|issue=6|pages=2769–2794|arxiv=0803.4101|doi=10.1214/009053607000000505}}</ref><ref>{{Cite journal|last=Székely|first=G. J.|last2=Rizzo|first2=M. L.|year=2009|title=Brownian distance covariance|journal=Annals of Applied Statistics|language=en|volume=3|issue=4|pages=1233–1303|arxiv=1010.0297|doi=10.1214/09-AOAS312|pmc=2889501|pmid=20574547}}</ref> нульова кореляція по віддалі означає незалежність.

Рандомізований коефіцієнт залежності (РКЗ, {{lang-en|Randomized Dependence Coefficient, RDC}})<ref>Lopez-Paz D. and Hennig P. and Schölkopf B. (2013). "The Randomized Dependence Coefficient", "{{нп|Конференція з нейронних систем обробки інформації|Conference on Neural Information Processing Systems||Conference on Neural Information Processing Systems}}" [http://papers.nips.cc/paper/5138-the-randomized-dependence-coefficient.pdf Reprint] {{Webarchive|url=https://web.archive.org/web/20200803214159/http://papers.nips.cc/paper/5138-the-randomized-dependence-coefficient.pdf |date=3 серпня 2020 }} {{ref-en}}</ref>&nbsp;— це обчислювально ефективна міра залежності між багатовимірними випадковими змінними на основі [[Копула|копул]]. РКЗ інваріантний щодо нелінійного масштабування випадкових змінних, здатний виявляти широкий спектр моделей функціональних асоціацій, і набуває нульового значення при незалежності.

Для двох {{нп|Бінарні дані|бінарних змінних||Binary data}} {{нп|відношення шансів|||Odds ratio}} вимірює їхню залежність і набуває діапазону невід'ємних чисел, потенційно нескінченних:{{tmath|[0, +\infty]}}. Схожі статистики, як-от {{нп|Y Юла|''Y'' Юла||Yule's Y}} та {{нп|Q Юла|''Q'' Юла||Yule's Q}}, унормовують його до подібного на кореляцію проміжку {{tmath|[-1, 1]}}. Відношення шансів узагальнено [[Логістична регресія|логістичною моделлю]] для моделювання випадків, коли залежні змінні є дискретними, й може бути одна або декілька незалежних змінних.

{{нп|Кореляційне відношення|||Correlation ratio}}, [[взаємна інформація]] на основі [[Інформаційна ентропія|ентропії]], {{нп|повна кореляція|||Total correlation}}, {{нп|двоїста повна кореляція|||Dual total correlation}} та {{нп|поліхорна кореляція|||Polychoric correlation}} також здатні виявляти загальніші залежності, як і розгляд [[Копула|копули]] між ними, тоді як [[коефіцієнт детермінації]] узагальнює коефіцієнт кореляції до {{нп|Множинна регресія|множинної регресії||Multiple regression}}<!-- Проблема вікіфікації: Сторінка [[:en:Multiple regression]] (→ [[:en:Regression analysis#General linear model]]) перекладена як [[Регресійний аналіз]], хоча хотіли [[Множинна регресія]] (SashkoR0B0T)-->.

== Чутливість до розподілу даних ==
{{Further|Коефіцієнт кореляції Пірсона#Чутливість до розподілу даних}}

Ступінь залежності між змінними {{mvar|X}} та {{mvar|Y}} не залежить від масштабу, в якому виражено ці змінні. Тобто, якщо ми аналізуємо взаємозв'язок між {{mvar|X}} та {{mvar|Y}}, перетворення {{mvar|X}} на {{Math|''a'' + ''bX''}} й {{mvar|Y}} на {{mvar|''c'' + ''dY''}}, де ''a'', ''b'', ''c'' та ''d'' є сталими (''b'' та ''d'' додатні), на більшість мір кореляції не впливає. Це стосується деяких кореляційних [[Статистика (математика)|статистик]], а також їхніх [[Генеральна сукупність|генеральних]] аналогів. Деякі кореляційні статистики, як-от коефіцієнт рангової кореляції, також інваріантні щодо [[Монотонна функція|монотонних перетворень]] відособлених розподілів {{mvar|X}} та/або {{mvar|Y}}.

[[Файл:Correlation_range_dependence.svg|праворуч|міні|300x300пкс|Коефіцієнти кореляції [[Коефіцієнт кореляції Пірсона|Пірсона]]/[[Коефіцієнт рангової кореляції Спірмена|Спірмена]] між {{mvar|X}} та {{mvar|Y}}, відображені, коли діапазони двох змінних не обмежено, та коли діапазон {{mvar|X}} обмежено інтервалом (0,1).]]

Більшість мір кореляції чутливі до способу вибирання {{mvar|X}} та {{mvar|Y}}. Залежності, як правило, сильніші, якщо розглядати їх на ширшому діапазоні значень. Таким чином, якщо ми розглянемо коефіцієнт кореляції між зростом батьків та їхніх синів над усіма дорослими чоловіками, та порівняємо його з тим же коефіцієнтом кореляції, розрахованим, коли вибрано батьків зростом від 165&nbsp;см до 170&nbsp;см, то в останньому випадку кореляція буде слабшою. Було розроблено кілька методик, які намагаються виправляти обмеження діапазону в одній або обох змінних, і які зазвичай використовують в метааналізі; найпоширенішими є рівняння Торндайка другого та третього випадків.<ref>{{cite book|last=Thorndike|first=Robert Ladd|title=Research problems and techniques (Report No. 3)|language=en|year=1947|publisher=US Govt. print. off.|location=Washington DC}}</ref>

Деякі використовувані міри кореляції можуть бути невизначеними для певних спільних розподілів {{mvar|X}} та {{mvar|Y}}. Наприклад, коефіцієнт кореляції Пірсона визначено в термінах [[Момент (математика)|моментів]], і, отже, буде не визначено, якщо не визначено моменти. Завжди визначено міри залежності, які ґрунтуються на [[Квантиль|квантилях]]. Статистики на основі вибірки, призначені оцінювати генеральні міри залежності, можуть мати або не мати бажаних статистичних властивостей, наприклад бути [[Незміщена оцінка|незміщеними]] та [[Слушна оцінка|асимптотично слушними]], залежно від просторової структури сукупності, з якої було вибрано дані.

Чутливість до розподілу даних можливо використовувати як перевагу. Наприклад, {{нп|Масштабна кореляція|масштабну кореляцію||Scaled correlation}} розроблено так, щоби використовувати чутливість до діапазону задля вихоплювання кореляції між швидкими складовими [[Часовий ряд|часових рядів]].<ref name="Nikolicetal">{{Cite journal|last=Nikolić|first=D|last2=Muresan|first2=RC|last3=Feng|first3=W|last4=Singer|first4=W|year=2012|title=Scaled correlation analysis: a better way to compute a cross-correlogram|journal=European Journal of Neuroscience|language=en|volume=35|issue=5|pages=1–21|doi=10.1111/j.1460-9568.2011.07987.x|pmid=22324876}}</ref> Шляхом контрольованого зменшення діапазону значення кореляції на довгому часовому масштабі відфільтровуються, й виявляються лише кореляції на коротких часових масштабах.

== Кореляційні матриці ==

Кореляційна матриця <math>n</math> випадкових змінних <math>X_1,\ldots,X_n</math>&nbsp;— це матриця <math>n \times n</math>, чиїм елементом <math>(i,j)</math> є

: <math>c_{ij}:=\operatorname{corr}(X_i,X_j)=\frac{\operatorname{cov}(X_i,X_j)}{\sigma_{X_i}\sigma_{X_j}},\quad \text{if}\ \sigma_{X_i}\sigma_{X_j}>0.</math>

Таким чином, всі її діагональні елементи однаково [[Одиниця (число)|одиничні]]. Якщо всі використовувані міри кореляції є коефіцієнтами кореляції Пірсона, то кореляційна матриця така же, як і [[коваріаційна матриця]] [[Стандартизована змінна|стандартизованих випадкових змінних]] <math>X_i / \sigma(X_i)</math> для <math>i = 1, \dots, n</math>. Це стосується як генеральної кореляційної матриці (у цьому випадку <math>\sigma</math>&nbsp;— генеральне стандартне відхилення), так і ви́біркової кореляційної матриці (у цьому випадку <math>\sigma</math> позначує вибіркове стандартне відхилення). Отже, кожна з них обов'язково є [[Додатно напіввизначена матриця|додатно напіввизначеною матрицею]]. Більше того, кореляційна матриця строго [[Додатно визначена матриця|додатно визначена]], якщо жодна змінна не може мати всі свої значення точно породженими як лінійна функція значень інших.

Кореляційна матриця симетрична, оскільки кореляція між <math>X_i</math> та <math>X_j</math> це те саме, що й кореляція між <math>X_j</math> та <math>X_i</math>.

Кореляційна матриця з'являється, наприклад, в одній формулі для {{нп|Коефіцієнт множинної детермінації|коефіцієнта множинної детермінації||Coefficient of multiple determination}}, міри допасованості у {{нп|Множинна регресія|множинній регресії||Multiple regression}}<!-- Проблема вікіфікації: Сторінка [[:en:Multiple regression]] (→ [[:en:Regression analysis#General linear model]]) перекладена як [[Регресійний аналіз]], хоча хотіли [[Множинна регресія]] (SashkoR0B0T)-->.

У [[Статистичне моделювання|статистичному моделюванні]] кореляційні матриці, що подають зв'язки між змінними, категоризують до різних кореляційних структур, які розрізнюють за такими чинниками як кількість параметрів, необхідних для їхнього оцінювання. Наприклад, у {{нп|Взаємозамінність (статистика)|взаємозамінній||Exchangeability}} кореляційній матриці всі пари змінних змодельовано як такі, що мають однакову кореляцію, так що все недіагональні елементи матриці дорівнюють один одному. З іншого боку, [[Авторегресійна модель|авторегресійну]] матрицю часто використовують, коли змінні подають часовий ряд, оскільки кореляції, ймовірно, будуть більшими, коли вимірювання ближчі в часі. До інших прикладів належать незалежні, неструктуровані, ''M''-залежні матриці, та [[матриці Тепліца]].

В [[Розвідувальний аналіз|розвідувальному аналізі даних]] {{нп|іконографія кореляцій|||Iconography of correlations}} полягає в заміні кореляційної матриці діаграмою, де «визначні» кореляції подають суцільною лінією (додатна кореляція), або пунктирною лінією (від'ємна кореляція).

=== Найближча чинна кореляційна матриця ===

У деяких застосуваннях (наприклад, побудові моделей даних з лише частково спостережуваних даних) потрібно знаходити «найближчу» кореляційну матрицю до «приблизної» кореляційної матриці (наприклад, матриці, якій зазвичай бракує напіввизначеної додатності через те, яким чином її було обчислено).

2002 року Хаєм<ref>{{Cite journal|last=Higham|first=Nicholas J.|date=2002|title=Computing the nearest correlation matrix—a problem from finance|journal=IMA Journal of Numerical Analysis|language=en|volume=22|issue=3|pages=329–343|citeseerx=10.1.1.661.2180|doi=10.1093/imanum/22.3.329}}</ref> формалізував поняття близькості за допомогою [[Норма Фробеніуса|норми Фробеніуса]] та запропонував метод обчислення найближчої кореляційної матриці за допомогою {{нп|Проєкційний алгоритм Дикстри|проєкційного алгоритму Дикстри||Dykstra's projection algorithm}}, втілення якого доступне як інтерактивний {{нп|вебППІ|||Web API}}.<ref>{{Cite web|url=https://portfoliooptimizer.io/|title=Portfolio Optimizer|website=portfoliooptimizer.io|language=en|accessdate=2021-01-30|archive-date=3 січня 2022|archive-url=https://web.archive.org/web/20220103141933/https://portfoliooptimizer.io/}}</ref>

Це викликало інтерес до даного предмета, з отриманими в наступні роки новими теоретичними (наприклад, обчислення найближчої кореляційної матриці з факторною структурою<ref>{{Cite journal|last=Borsdorf|first=Rudiger|last2=Higham|first2=Nicholas J.|last3=Raydan|first3=Marcos|date=2010|title=Computing a Nearest Correlation Matrix with Factor Structure.|url=http://eprints.maths.manchester.ac.uk/1523/1/SML002603.pdf|journal=SIAM J. Matrix Anal. Appl.|language=en|volume=31|issue=5|pages=2603–2622|doi=10.1137/090776718|accessdate=3 січня 2022|archive-date=30 грудня 2021|archive-url=https://web.archive.org/web/20211230013809/http://eprints.maths.manchester.ac.uk/1523/1/SML002603.pdf}}</ref>) та чисельними (наприклад, використання [[Метод Ньютона|методу Ньютона]] для обчислення найближчої кореляційної матриці<ref>{{Cite journal|last=Qi|first=HOUDUO|last2=Sun|first2=DEFENG|date=2006|title=A quadratically convergent Newton method for computing the nearest correlation matrix.|journal=SIAM J. Matrix Anal. Appl.|language=en|volume=28|issue=2|pages=360–385|doi=10.1137/050624509}}</ref>) результатами.

== Некорельованість і незалежність стохастичних процесів ==

Аналогічно для двох стохастичних процесів <math>\left\{ X_t \right\}_{t\in\mathcal{T}}</math> та <math>\left\{ Y_t \right\}_{t\in\mathcal{T}}</math>: Якщо вони незалежні, то вони некорельовані.<ref name="KunIlPark">{{cite book | author=Park, Kun Il| title=Fundamentals of Probability and Stochastic Processes with Applications to Communications| language=en| publisher=Springer | year=2018 | isbn=978-3-319-68074-3}}</ref>{{Rp|с.&nbsp;151}} Протилежне цьому твердженню може бути неправильним. Навіть якщо дві змінні не корельовані, вони можуть не бути незалежними одна від одної.

== Поширені непорозуміння ==

=== Корельованість та причинність ===
{{Main|Корелювання не означає спричинювання}}
{{Див. також|{{нп|Нормальна розподіленість і некорельованість не означає незалежність|||Normally distributed and uncorrelated does not imply independent}}}}

Поширений вислів «[[корелювання не означає спричинювання]]» означає, що кореляцію неможливо використовувати саму по собі для висновування причинно-наслідкового зв'язку між змінними.<ref>{{Cite journal|last=Aldrich|first=John|year=1995|title=Correlations Genuine and Spurious in Pearson and Yule|url=https://archive.org/details/sim_statistical-science_1995-11_10_4/page/364|journal=Statistical Science|language=en|volume=10|issue=4|pages=364–376|doi=10.1214/ss/1177009870|jstor=2246135|doi-access=free}}</ref> Цей вислів не слід сприймати так, що кореляції не можуть вказувати на потенційне існування причинно-наслідкових зв'язків. Проте причини, що лежать в основі кореляції, якщо вони й існують, можуть бути непрямими або невідомими, а високі кореляції також перекриваються з відношеннями [[Тотожність|тотожності]] ([[Тавтологія (логіка)|тавтології]]), де процесу спричинювання не існує. Отже, кореляція між двома змінними не є достатньою умовою для встановлення причинно-наслідкового зв'язку (в будь-якому з напрямків).

Кореляція між віком та зростом у дітей є досить причиннісно прозорою, але кореляція між настроєм і здоров'ям у людей&nbsp;— не настільки. Чи поліпшення настрою призводить до покращення здоров'я, чи гарне здоров'я призводить до гарного настрою, чи обидва? Чи якийсь інший чинник лежить в основі обох? Іншими словами, кореляцію можна вважати свідченням можливого причинно-наслідкового зв'язку, але вона не може вказувати, яким може бути причинний зв'язок, якщо він взагалі існує.

=== Прості лінійні кореляції ===
[[Файл:Anscombe's quartet 3.svg|праворуч|міні|325x325пкс|[[Квартет Анскомбе]]: чотири набори даних з однаковою кореляцією 0,816]]

Коефіцієнт кореляції Пірсона показує силу ''лінійного'' взаємозв'язку між двома змінними, але його значення, як правило, характеризує їхній взаємозв'язок не повністю.<ref>{{Cite journal|last=Mahdavi Damghani|first=Babak|year=2012|title=The Misleading Value of Measured Correlation|journal={{нп|Wilmott|Wilmott Magazine||Wilmott (magazine)}}|language=en|volume=2012|issue=1|pages=64–73|doi=10.1002/wilm.10167}}</ref> Зокрема, якщо [[Умовне математичне сподівання|умовне середнє]] <math>Y</math> за заданого <math>X</math>, позначуване через <math>\operatorname{E}(Y \mid X)</math>, не лінійне за <math>X</math>, то коефіцієнт кореляції не повністю визначатиме вигляд <math>\operatorname{E}(Y \mid X)</math>.

На сусідньому зображенні показано [[Точкова діаграма|діаграми розсіювання]] [[Квартет Анскомбе|квартету Анскомбе]], набору з чотирьох різних пар змінних, створеного {{нп|Френсіс Анскомбе|Френсісом Анскомбе||Francis Anscombe}}.<ref>{{Cite journal|last=Anscombe|first=Francis J.|year=1973|title=Graphs in statistical analysis|url=https://archive.org/details/sim_american-statistician_1973-02_27_1/page/17|journal=The American Statistician|language=en|volume=27|issue=1|pages=17–21|doi=10.2307/2682899|jstor=2682899}}</ref> Чотири змінні <math>y</math> мають однакове середнє значення (7,5), дисперсію (4,12), кореляцію (0,816) та лінію регресії (<math display="inline">y=3+0.5x</math>). Проте, як видно на цих графіках, розподіл змінних дуже різний. Перші (вгорі ліворуч) видаються розподіленими нормально й відповідають тому, що можна було би очікувати, розглядаючи дві змінні, які корелюють, й дотримуються припущення нормальності. Другі (вгорі праворуч) розподілено не нормально, і хоча й можливо спостерігати очевидний взаємозв'язок між цими двома змінними, він не є лінійним. У цьому випадку коефіцієнт кореляції Пірсона не вказує, що існує точна функційна залежність: лише ступінь, до якого цей взаємозв'язок можливо наблизити лінійним співвідношенням. У третьому випадку (внизу ліворуч) лінійна залежність є ідеальною, за винятком одного [[Викид (статистика)|викиду]], який чинить достатній вплив, щоби знизити коефіцієнт кореляції з 1 до 0,816. Нарешті, четвертий приклад (унизу праворуч) показує інший приклад, коли одного викиду достатньо для отримання високого коефіцієнта кореляції, навіть якщо взаємозв'язок між двома змінними не є лінійним.

Ці приклади показують, що коефіцієнт кореляції як [[зведена статистика]] не здатен замінити візуальне дослідження даних. Іноді кажуть, що ці приклади демонструють, що кореляція Пірсона передбачає, що дані мають [[нормальний розподіл]], але це правильно лише частково.<ref name="thirteenways"/> Кореляцію Пірсона можливо точно розрахувати для будь-якого розподілу, який має скінченну [[Коваріаційна матриця|коваріаційну матрицю]], що включає більшість розподілів, які зустрічаються на практиці. Проте, [[Достатня статистика|достатньою статистикою]] коефіцієнт кореляції Пірсона (взятий разом із вибірковим середнім значенням та дисперсією) є лише в тому випадку, якщо дані взято з [[Багатовимірний нормальний розподіл|багатовимірного нормального розподілу]]. В результаті, коефіцієнт кореляції Пірсона повністю характеризує зв'язок між змінними тоді й лише тоді, коли дані вибирають із багатовимірного нормального розподілу.

== Двовимірний нормальний розподіл ==

Якщо пара <math>\ (X,Y)\ </math> випадкових змінних слідує [[Двовимірний нормальний розподіл|двовимірному нормальному розподілу]], то умовне середнє <math>\operatorname{\boldsymbol\mathcal E}(X \mid Y)</math> є лінійною функцією від <math>Y</math>, а умовне середнє <math>\operatorname{\boldsymbol\mathcal E}(Y \mid X)</math> є лінійною функцією від <math>\ X ~.</math> Коефіцієнт кореляції <math>\ \rho_{X,Y}\ </math> між <math>\ X\ </math> та <math>\ Y\ ,</math> й [[Відособлений розподіл|відособлені]] середні значення та дисперсії <math>\ X\ </math> та <math>\ Y\ </math> визначають цю лінійну залежність:

: <math>\operatorname{\boldsymbol\mathcal E}(Y \mid X ) = \operatorname{\boldsymbol\mathcal E}(Y) + \rho_{X,Y} \cdot \sigma_Y \cdot \frac{\ X-\operatorname{\boldsymbol\mathcal E}(X)\ }{ \sigma_X }\ ,</math>

де <math>\operatorname{\boldsymbol\mathcal E}(X)</math> та <math>\operatorname{\boldsymbol\mathcal E}(Y)</math>&nbsp;— математичні сподівання <math>\ X\ </math> та <math>\ Y\ </math> відповідно, а <math>\ \sigma_X\ </math> та <math>\ \sigma_Y\ </math>&nbsp;— стандартні відхилення <math>\ X\ </math> та <math>\ Y\ </math> відповідно.


Емпірична кореляція <math>r</math>&nbsp;— це [[Оцінка (теорія оцінювання)|оцінка]] коефіцієнта кореляції <math>\ \rho ~.</math> Оцінку розподілу для <math>\ \rho\ </math> задають через

: <math display="block">\pi ( \rho \mid r ) =
\frac{\ \Gamma(N)\ }{\ \sqrt{ 2\pi\ } \cdot
\Gamma( N - \tfrac{\ 1\ }{ 2 } )\ } \cdot
\bigl( 1 - r^2 \bigr)^{ \frac{\ N\ - 2\ }{ 2 } } \cdot
\bigl( 1 - \rho^2 \bigr)^{ \frac{\ N - 3\ }{ 2 } } \cdot
\bigl( 1 - r \rho \bigr)^{ - N + \frac{\ 3 \ }{ 2 } } \cdot F_\mathsf{Hyp} \left(\ \tfrac{\ 3\ }{ 2 } , -\tfrac{\ 1\ }{ 2 } ; N - \tfrac{\ 1\ }{ 2 } ; \frac{\ 1 + r \rho\ }{ 2 }\ \right)\ </math>

де <math>\ F_\mathsf{Hyp} \ </math>&nbsp;— [[гауссова гіпергеометрична функція]].

Ця густина є одночасно баєсовою [[Апостеріорна ймовірність|апостеріорною]] густиною, й точною оптимальною густиною {{нп|Довірчий розподіл|довірчого розподілу||Confidence distribution}}.<ref>{{cite journal |last=Taraldsen |first=Gunnar |date=2021 |title=The confidence density for correlation |journal=Sankhya A |volume=85 |pages=600–616 |lang=en |s2cid=244594067 |issn=0976-8378 |doi=10.1007/s13171-021-00267-y |doi-access=free}}</ref><ref>{{cite report |last=Taraldsen |first=Gunnar |date=2020 |title=Confidence in correlation |lang=en |type=preprint |doi=10.13140/RG.2.2.23673.49769 |website=researchgate.net |url=http://rgdoi.net/10.13140/RG.2.2.23673.49769}}</ref>

== Див. також ==
{{Портал|Математика}}
{{Further|Кореляція (значення)}}
{{cols|colwidth=26em}}
* [[Автокореляція]]
* [[Взаємна кореляція]]
* {{нп|Відношення квадрантових кількостей|||Quadrant count ratio}}
* {{нп|Внутрішньокласова кореляція|||Intraclass correlation}}
* {{нп|Генетична кореляція|||Genetic correlation}}
* {{нп|Залежність середнього значення|||Mean dependence}}
* {{нп|Екологічна кореляція|||Ecological correlation}}
* {{нп|Іконографія кореляцій|||Iconography of correlations}}
* [[Ілюзорна кореляція]]
* [[Канонічна кореляція]]
* [[Коваріація]]
* [[Коваріація та кореляція]]
* [[Коефіцієнт детермінації]]
* {{нп|Коефіцієнт конкордації|||Concordance correlation coefficient}}
* {{нп|Коінтеграція|||Cointegration}}
* [[Кореляційна функція]]
* {{нп|Кореляційний розрив|||Correlation gap}}
* {{нп|Кофенетична кореляція|||Cophenetic correlation}}
* {{нп|Лямбда Гудмана і Крускала|||Goodman and Kruskal's lambda}}
* {{нп|Міжкласова кореляція|||Interclass correlation}}
* {{нп|Множинна кореляція|||Multiple correlation}}
* {{нп|Непояснена частка дисперсії|||Fraction of variance unexplained}}
* {{нп|Підіймання (добування даних)|||Lift (data mining)}}
* {{нп|Проблема змінності ареальних одиниць|||Modifiable areal unit problem}}
* [[Помилкова кореляція]]
* {{нп|Слабка незалежність|||Subindependence}}
* {{нп|Кореляційне відношення|Статистичне кореляційне відношення||Correlation ratio}}
* {{нп|Точково-бісеріальний коефіцієнт кореляції|||Point-biserial correlation coefficient}}
{{colend}}

== Примітки ==
{{Reflist|colwidth=35em}}

== Література ==
* {{Карташов.Імовірність процеси статистика}}
* {{Гнеденко.Курс теории вероятностей}}
* {{Гіхман.Скороход.Ядренко}}
* {{cite book |author=Cohen, J. |author2=Cohen P. |author3=West, S.G. |author4=Aiken, L.S.|author4-link= Леона Ейкен |name-list-style=amp |year=2002 |title=Applied multiple regression/correlation analysis for the behavioral sciences |language=en |edition=3rd |publisher=Psychology Press |isbn= 978-0-8058-2223-6 }}
* {{springer|title=Correlation (in statistics)|id=p/c026560}} {{ref-en}}
* {{cite book|last1=Oestreicher|first1=J. & D. R.|title=Plague of Equals: A science thriller of international disease, politics and drug discovery|language=en|date=26 лютого 2015|publisher=Omega Cat Press|location=California|isbn=978-0963175540|pages=408}}

== Посилання ==
{{Вікісловник|кореляція<!-- |залежність -->}}
{{Commons category|Correlation}}
<!-- {{Wikiversity|Кореляція}} -->
* [http://mathworld.wolfram.com/CorrelationCoefficient.html Сторінка ''MathWorld'' про коефіцієнт/и (взаємної) кореляції вибірки] {{Webarchive|url=https://web.archive.org/web/20190831220432/http://mathworld.wolfram.com/CorrelationCoefficient.html |date=31 серпня 2019 }} {{ref-en}}
* [http://peaks.informatik.uni-erlangen.de/cgi-bin/usignificance.cgi Обчислення значущості між двома кореляціями] {{Webarchive|url=https://web.archive.org/web/20220103141931/http://peaks.informatik.uni-erlangen.de/cgi-bin/usignificance.cgi |date=3 січня 2022 }} для порівняння двох значень кореляції.
* {{cite web|url=http://www.mathworks.com/matlabcentral/fileexchange/20846|title=Інструментарій ''MATLAB'' для обчислювання коефіцієнтів зваженої кореляції|archive-url=https://web.archive.org/web/20210424091029/https://www.mathworks.com/matlabcentral/fileexchange/20846-weighted-correlation-matrix|archive-date=24 квітня 2021}}
* [https://www.scribd.com/doc/299546673/Proof-that-the-Sample-Bivariate-Correlation-has-limits-plus-or-minus-1 Доведення того, що вибіркова двовимірна кореляція має межі плюс та мінус 1] {{Webarchive|url=https://web.archive.org/web/20161017103950/https://www.scribd.com/doc/299546673/Proof-that-the-Sample-Bivariate-Correlation-has-limits-plus-or-minus-1 |date=17 жовтня 2016 }} {{ref-en}}
* [http://nagysandor.eu/AsimovTeka/correlation_en/index.html Інтерактивна ''Flash''-симуляція кореляції двох нормально розподілених змінних] {{Webarchive|url=https://web.archive.org/web/20210517153242/http://nagysandor.eu/AsimovTeka/correlation_en/index.html |date=17 травня 2021 }} від Юги Пуранена.
* [https://web.archive.org/web/20150407112430/http://www.biostat.katerynakon.in.ua/en/association/correlation.html Кореляційний аналіз. Біомедична статистика] {{ref-en}}
* ''R-Psychologist [http://rpsychologist.com/d3/correlation/ Correlation] {{Webarchive|url=https://web.archive.org/web/20200817021514/https://rpsychologist.com/d3/correlation/ |date=17 серпня 2020 }}'': унаочнення кореляції між двома числовими змінними

{{Статистика|кореляція}}
{{Бібліоінформація}}

{{DEFAULTSORT:Кореляція і залежність}}
[[Категорія:Коваріація та кореляція]]
[[Категорія:Економетрика]]
[[Категорія:Безрозмірнісні параметри]]