Перегляд вихідного коду сторінки Перевірка відношенням правдоподібностей

{{Не плутати2|використанням [[Відношення правдоподібності медичних тестів|відношень правдоподібності в медичних тестах]]}}
{{Multiple issues|
{{Refimprove|date=жовтень 2015}}
{{Експерт|галузь=статистики|date=жовтень 2015}}
{{Недостатньо виносок|date=жовтень 2015}}
}}

У [[Статистика|статистиці]] '''переві́рка відно́шенням правдоподі́бностей'''&nbsp;— це [[Перевірка статистичних гіпотез|статистична перевірка]], що застосовується для порівняння [[Допасованість (статистика)|допасованості]] двох моделей, одна з яких (''[[Нульова гіпотеза|нульова]] модель'') є окремим випадком іншої ({{нп|Альтернативна гіпотеза|''альтернативної''||Alternative hypothesis}} моделі). Ця перевірка ґрунтується на відношенні [[Функція правдоподібності|правдоподібностей]], яке виражає, в скільки разів правдоподібніше, що дані відповідають одній моделі, а не іншій. Це відношення правдоподібностей, або, рівнозначно, його [[логарифм]], може потім застосовуватися для обчислення [[p-значення|''p''-значення]], або порівнюватися із {{нп|Критичне значення#Статистика|критичним значенням||Critical value}} для ухвалення рішення, чи відкинути нульову модель на користь альтернативної моделі. Коли застосовується логарифм відношення правдоподібностей, така [[Статистика (математика)|статистика]] відома як '''статистика відношення логарифмічних правдоподібностей''', а [[розподіл імовірності]] цієї перевірної статистики, за припущення, що нульова модель є істинною, може бути наближено із застосуванням '''[[#Розподіл: теорема Уїлкса|теореми Уїлкса]]'''.

У випадку порівняння двох моделей, кожна з яких не має відомих [[Статистичний параметр|параметрів]], застосування перевірки відношенням правдоподібностей може бути обґрунтовано {{нп|Лема Неймана-Пірсона|лемою Неймана-Пірсона||Neyman–Pearson lemma}}, яка показує, що така перевірка має найвищу [[Статистична потужність|потужність]] серед усіх конкурентів.{{sfn|Neyman|Pearson|1933}}

== Застосування ==

Кожна з двох порівнюваних моделей, нульова модель та альтернативна модель, окремо співставляється з даними, і записується логарифмічна [[Функція правдоподібності|правдоподібність]]. Пробна [[Статистика (математика)|статистика]] (що часто позначують через ''D'') є подвоєною різницею цих логарифмічних правдоподібностей:

: <math>
\begin{align}
D & = -2\ln\left( \frac{\text{likelihood for null model}}{\text{likelihood for alternative model}} \right) \\
&= -2\ln(\text{likelihood for null model}) + 2\ln(\text{likelihood for alternative model}) \\
\end{align}
</math>

Модель із більшою кількістю параметрів завжди допасовуватиметься щонайменше так же добре (матиме рівну або більшу логарифмічну правдоподібність). Чи є вона суттєво кращою, і чи повинна їй тому віддаватися перевага, визначається виведенням імовірності або [[p-значення|''p''-значення]] різниці ''D''. Там, де нульова гіпотеза являє собою окремий випадок альтернативної гіпотези, [[розподіл імовірності]] [[Статистичний критерій|статистичного критерію]] є приблизно [[Розподіл хі-квадрат|хі-квадратним розподілом]] зі [[Ступені вільності (статистика)|ступенями вільності]], що дорівнюють ''df''2&nbsp;−&nbsp;''df''1.{{sfn|Huelsenbeck|Crandall|1997}} Символи ''df''1 та ''df''2 представляють кількість вільних параметрів моделей 1 та 2, відповідно, нульової та альтернативної.

Ось приклад застосування. Якщо нульова модель має 1 параметр та логарифмічну правдоподібність −8024, а альтернативна модель має 3 параметри та логарифмічну правдоподібність −8012, то ймовірністю цієї різниці є те, що й хі-квадрат значення +2·(8024&nbsp;−&nbsp;8012)&nbsp;=&nbsp;24 з 3&nbsp;−&nbsp;1&nbsp;=&nbsp;2 ступенями вільності. Щоби статистика слідувала розподілові хі-квадрат, мусять виконуватися деякі припущення,{{sfn|Wilks|1938}} і часто обчислюють емпіричні ''p''-значення.

Перевірка відношенням правдоподібностей вимагає [[Вкладені статистичні моделі|вкладених моделей]], тобто таких моделей, що складнішу може бути перетворено на простішу накладенням набору обмежень на її параметри. Якщо моделі не є вкладеними, то натомість зазвичай може бути застосовано узагальнення перевірки відношенням правдоподібності: [[Відносна правдоподібність|відносну правдоподібність]].

== Гіпотези проста-з-простою ==
{{Докладніше1|{{нп|Лема Неймана-Пірсона|||Neyman–Pearson lemma}}}}

Статистична модель часто є {{нп|Параметризоване сімейство|параметризованим сімейством||Parametrized family}} [[Густина імовірності|функцій густини ймовірності]] або [[Функція маси імовірності|функцій маси ймовірності]] <math>f(x|\theta)</math>. Перевірка гіпотез проста-з-простою має повністю визначені моделі як за [[Нульова гіпотеза|нульової]] гіпотези, так і за {{нп|Альтернативна гіпотеза|альтернативної||Alternative hypothesis}}, що для спрощення записуються в термінах фіксованих значень уявного параметра <math>\theta</math>:

: <math>
\begin{align}
H_0 &:& \theta=\theta_0 ,\\
H_1 &:& \theta=\theta_1 .
\end{align}
</math>

Зауважте, що за кожної з гіпотез розподіл даних є повністю визначеним; невідомих параметрів для оцінки немає. Перевірка відношенням правдоподібностей ґрунтується на '''відношенні правдоподібностей''', що часто позначають через <math>\Lambda</math> (велика [[Грецька абетка|грецька літера]] [[Лямбда (літера)|лямбда]]). Відношення правдоподібностей визначається таким чином:{{sfn|Mood|Graybill|1963|p=286}}{{sfn|Stuart|Ord|Arnold|1999|loc=Chapter 22}}

: <math>
\Lambda(x) = \frac{ L(\theta_0|x) }{ L(\theta_1|x) } = \frac{ f(\cup_i \, x_i|\theta_0) }{ f(\cup_i \, x_i|\theta_1) }
</math>

або

: <math>\Lambda(x)=\frac{L(\theta_0\mid x)}{\sup\{\,L(\theta\mid x):\theta\in\{\theta_0,\theta_1\}\}},</math>

де <math>L(\theta|x)</math> є [[Функція правдоподібності|функцією правдоподібності]], а <math>\sup</math>&nbsp;— функцією [[супремум]]а. Зауважте, що деякі джерела можуть використовувати як визначення обернене.{{sfn|Cox|Hinkley|1974|p=92}} У встановленому тут вигляді відношення правдоподібностей є малим, якщо альтернативна модель є кращою за нульову, і перевірка відношенням правдоподібностей дає таке правило рішення:

: Якщо <math>\Lambda > c </math>, не відхиляти <math>H_0</math>;

: Якщо <math>\Lambda < c </math>, відхилити <math>H_0</math>;

: Відхилити з імовірністю <math>q</math>, якщо <math>\Lambda = c .</math>

Значення <math>c, \; q</math> зазвичай обираються для отримання вказаного [[Рівень значущості|рівня значущості]] <math>\alpha</math> за допомогою відношення <math>q\cdot P(\Lambda=c \;|\; H_0) + P(\Lambda < c \; | \; H_0) = \alpha </math>. {{нп|Лема Неймана-Пірсона|||Neyman–Pearson lemma}} стверджує, що ця перевірка відношенням правдоподібностей є [[Статистична потужність|найпотужнішою]] серед усіх перевірок рівня <math>\alpha</math> для цієї задачі.{{sfn|Neyman|Pearson|1933}}

== Визначення (перевірка відношенням правдоподібностей для складених гіпотез) ==

Нульову гіпотезу часто задають, кажучи, що параметр <math>\theta</math> належить до вказаної підмножини <math>\Theta_0</math> простору параметрів <math>\Theta</math>.

: <math>
\begin{align}
H_0 &:& \theta \in \Theta_0\\
H_1 &:& \theta \in \Theta_0^{\complement}
\end{align}
</math>

[[Функція правдоподібності|Функцією правдоподібності]] є <math>L(\theta|x) = f(x|\theta)</math> (де <math>f(x|\theta)</math> є [[Функція густини імовірності|ФГІ]] або [[Функція маси імовірності|ФМІ]]), що є функцією від параметра <math>\theta</math> при <math>x</math>, фіксованому на значенні, що фактично спостерігалося, тобто на даних. '''Статистикою перевірки відношенням правдоподібності''' є{{sfn|Casella|Berger|2001|p=375}}

: <math>\Lambda(x)=\frac{\sup\{\,L(\theta\mid x):\theta\in\Theta_0\,\}}{\sup\{\,L(\theta\mid x):\theta\in\Theta\,\}}.</math>

Тут запис <math>\sup</math> стосується функції [[супремум]]а.

'''Перевірка відношенням правдоподібностей'''&nbsp;— це будь-яка перевірка з критичною областю (або областю відхилення) вигляду <math>\{x|\Lambda \le c\}</math>, де <math>c</math> є числом, що задовольняє <math>0\le c\le 1</math>. Багато поширених перевірних [[Статистика (математика)|статистик]], таких як [[Z-критерій|''Z''-критерій]], [[F-критерій|''F''-критерій]], [[Критерій узгодженості Пірсона|перевірка хі-квадрат Пірсона]] та {{Не перекладено|G-критерій|''G''-критерій||G-test}} є перевірками вкладених моделей, і їх може бути сформульовано як відношення логарифмічних правдоподібностей або їхніх наближень.

=== Інтерпретація ===

Будучи функцією даних <math>x</math>, відношення правдоподібностей є відтак [[Статистика (математика)|статистикою]]. '''Перевірка відношенням правдоподібностей''' відхиляє нульову гіпотезу, якщо значення цієї статистики є замалим. Наскільки мале є замалим, залежить від рівня значущості перевірки, тобто від того, яка ймовірність [[Помилка першого роду|помилок першого роду]] вважається терпимою (помилки першого роду складаються з відхилень нульової гіпотези, що насправді є істинними).

[[Чисельник]] відповідає максимальній правдоподібності спостережуваного виходу за [[Нульова гіпотеза|нульової гіпотези]]. [[Знаменник]] відповідає максимальній правдоподібності спостережуваного виходу при варіюванні параметрів над усім параметричним простором. Чисельник цього відношення є меншим за знаменник. Отже, відношення правдоподібностей лежить між 0 та 1. Низькі значення відношення правдоподібностей означають, що трапляння спостережуваного результату було менш правдоподібним за нульової гіпотези в порівнянні з альтернативною. Високі значення цієї статистики означають, що трапляння спостережуваного виходу було майже настільки ж правдоподібним за нульової гіпотези, як і за альтернативної, й нульову гіпотезу не можна відкидати.

==={{Якір|Теорема Уїлкса}} Розподіл: теорема Уїлкса ===
{{falseredirect|Теорема Уїлкса}}

Якщо розподіл відношення правдоподібностей, що відповідає певним нульовій та альтернативній гіпотезам, може бути визначено явно, то його можливо безпосередньо застосовувати для формування областей рішень (для прийняття/відхилення нульової гіпотези). Проте в більшості випадків точний розподіл відношення правдоподібностей, що відповідає певним гіпотезам, визначити дуже складно. Зручний результат, що приписують {{нп|Семюел Стенлі Уїлкс|Семюелові Уїлксу||Samuel S. Wilks}}, каже, що з наближенням розміру вибірки <math>n</math> до [[Нескінченність|<math>\infty</math>]] перевірна статистика <math>-2 \log(\Lambda)</math> для вкладених моделей ставатиме асимптотично [[Розподіл хі-квадрат|<math>\chi^2</math>-розподіленою]] зі [[Ступені вільності (статистика)|ступенями вільності]], що дорівнюють різниці в розмірності <math>\Theta</math> та <math>\Theta_0</math>.{{sfn|Wilks|1938}} Це означає, що для великого розмаїття гіпотез виконавець може обчислювати відношення правдоподібностей <math>\Lambda</math> для даних, і порівнювати <math>-2\log(\Lambda)</math> зі значенням <math>\chi^2</math>, що відповідає бажаній [[Статистична значущість|статистичній значущості]], в ролі наближеної статистичної перевірки.

== Приклади ==

=== Підкидання монети ===

Як приклад, у випадку перевірки Пірсона ми могли би спробувати порівняти дві монети, щоби визначити, чи вони мають однакову ймовірність випадіння аверсу. Наші спостереження може бути внесено до таблиці спряженості з рядками, що відповідають монетам, та стовпчиками, що відповідають аверсам ({{lang-en|heads}}) та реверсам ({{lang-en|tails}}). Елементами таблиці спряження будуть кількості разів, яку на монеті цього рядка випав аверс та реверс. Вміст цієї таблиці є нашим спостереженням <math>X</math>.

{| class="wikitable" style="margin:auto; text-align:center"
|-
!
! Аверси !! Реверси
|-
! Монета 1
| <math>k_{1H}</math>
| <math>k_{1T}</math>
|-
! Монета 2
| <math>k_{2H}</math>
| <math>k_{2T}</math>
|}

Тут <math>\Theta</math> складається з можливих комбінацій значень параметрів <math>p_{1H}</math>, <math>p_{1T}</math>, <math>p_{2H}</math> та <math>p_{2T}</math>, що є ймовірністю того, що монети 1 та 2 впадуть аверсом або реверсом догори. Надалі <math>i = 1,2</math> та <math>j = H,T</math>. Простір гіпотез <math>H</math> обмежується звичайними обмеженнями на розподіл імовірності, <math>0 \le p_{ij} \le 1</math> та <math> p_{iH} + p_{iT} = 1 </math>. Простір нульової гіпотези <math>H_0</math> є підпростором, у якому <math> p_{1j} = p_{2j}</math>. При позначенні через <math>n_{ij}</math> найкращих значень <math>p_{ij}</math> за гіпотези <math>H</math> оцінка максимальної правдоподібності задається як

<math>n_{ij} = \frac{k_{ij}}{k_{iH}+k_{iT}}.</math>

Аналогічно, оцінки максимальної правдоподібності <math>p_{ij}</math> за нульової гіпотези <math>H_0</math> задаються як

<math>m_{ij} = \frac{k_{1j}+k_{2j}}{k_{1H}+k_{2H}+k_{1T}+k_{2T}},</math>

що не залежить від монети <math>i</math>.

Гіпотезу та нульову гіпотезу може бути злегка переписано так, щоби вони задовольняли такі обмеження, щоби логарифм відношення правдоподібностей мав бажаний гарний розподіл. Оскільки це обмеження спричиняє зведення двовимірної <math>H</math> до одновимірної <math>H_0</math>, то асимптотичним розподілом цієї перевірки буде <math>\chi^2(1)</math>, розподіл <math>\chi^2</math> з одним ступенем вільності.

Для загального випадку таблиці спряженості статистику відношення логарифмічних правдоподібностей може бути переписано як

: <math>-2 \log \Lambda = 2\sum_{i, j} k_{ij} \log \frac{n_{ij}}{m_{ij}}.</math>

== Примітки ==

{{Примітки|2}}

== Джерела ==

{{refbegin|30em}}
* {{Cite journal | last1 = Neyman | first1 = Jerzy | authorlink1 = Єжи Нейман| last2 = Pearson | first2 = Egon S. | authorlink2 = Еґон Пірсон| doi = 10.1098/rsta.1933.0009 | title = On the Problem of the Most Efficient Tests of Statistical Hypotheses | journal = [[Philosophical Transactions of the Royal Society of London|Philosophical Transactions of the Royal Society]] A: Mathematical, Physical and Engineering Sciences | volume = 231 | issue = 694–706 | pages = 289–337 | year = 1933 | jstor = 91247 | pmid =  | pmc = | ref = harv |bibcode = 1933RSPTA.231..289N | url = http://www.stats.org.uk/statistical-inference/NeymanPearson1933.pdf }} {{ref-en}}
* {{Cite journal | last1 = Huelsenbeck | first1 = J. P. | last2 = Crandall | first2 = K. A. | title = Phylogeny Estimation and Hypothesis Testing Using Maximum Likelihood | journal = Annual Review of Ecology and Systematics | volume = 28 | pages = 437–466 | doi = 10.1146/annurev.ecolsys.28.1.437 | year = 1997 | url = http://www2.ib.unicamp.br/profs/sfreis/SistematicaMolecular/Aula06SelecaoModelosSubstituicaoI/Leituras/PhylogenyEstimationHypothesisTestingHuelsenbeck1997.pdf | ref = harv | pmid =  | pmc = }} {{ref-en}}
* {{Cite journal | last1 = Wilks | first1 = S. S. |authorlink=Семюел Стенлі Уїлкс| doi = 10.1214/aoms/1177732360 | title = The Large-Sample Distribution of the Likelihood Ratio for Testing Composite Hypotheses | journal = The Annals of Mathematical Statistics | volume = 9 | pages = 60–62| year = 1938 | url = http://projecteuclid.org/download/pdf_1/euclid.aoms/1177732360 | ref = harv | pmid =  | pmc = }} {{ref-en}}
* {{Cite book|last1=Mood|first1=A.M.|last2=Graybill|first2=F.A.|year=1963|title=Introduction to the Theory of Statistics|url=https://archive.org/details/introductiontoth00mood|edition=2nd|publisher=McGraw-Hill|isbn=978-0070428638|ref=harv}} {{ref-en}}
* {{Cite book|last1=Stuart|first1=A.|last2=Ord|first2=K.|last3=Arnold|first3=S|year=1999|title=Kendall's Advanced Theory of Statistics|volume=2A|publisher={{нп|Edward Arnold (видавництво)|Arnold||Edward Arnold (publisher)}}|ref=harv}} {{ref-en}}
* {{cite book |last=Cox |first=D. R. |last2=Hinkley |first2=D. V. |title=Theoretical Statistics |url=https://archive.org/details/theoreticalstati0000coxd |location= |publisher=Chapman and Hall |year=1974 |isbn=0-412-12420-3 |ref=harv }} {{ref-en}}
* {{cite book |last=Casella |first=George |last2=Berger |first2=Roger L. |year=2001 |title=Statistical Inference |edition=Second |isbn=0-534-24312-6 |ref=harv }} {{ref-en}}
{{refend}}

== Посилання ==

* [http://www.itl.nist.gov/div898/handbook/apr/section2/apr233.htm Практичне застосування описаної перевірки відношенням правдоподібностей] {{ref-en}}
* [http://cran.r-project.org/web/packages/SPRT/SPRT.pdf Пакет R: Послідовна перевірка відношення ймовірностей Вальда] {{ref-en}}
* [https://web.archive.org/web/20150504130014/http://faculty.vassar.edu/lowry/clin2.html Передбачувальні значення Річарда Лоурі та відношення правдоподібностей] інтерактивний клінічний калькулятор {{ref-en}}

{{Статистика|виведення}}

{{DEFAULTSORT:Перевірка відношенням правдоподібностей}}
[[Категорія:Статистичні співвідношення]]
[[Категорія:Статистичні критерії|Відношення правдоподібностей]]