Перегляд вихідного коду сторінки Функція правдоподібності

{{Short description|Функція, пов'язана зі статистикою та теорією ймовірностей}}

У [[Статистика|статистиці]] '''фу́нкція правдоподі́бності''' ({{lang-en|likelihood function}}, часто звана просто '''правдоподі́бністю''', {{lang-en|likelihood}}) вимірює [[Допасованість (статистика)|допасованість]] [[Статистична модель|статистичної моделі]] до [[Вибірка|вибірки даних]] для заданих значень невідомих [[Статистичний параметр|параметрів]]. Її утворюють зі [[Спільний розподіл імовірності|спільного розподілу ймовірності]] цієї вибірки, але розглядають та використовують як функцію лише від цих параметрів, відтак розглядаючи [[Випадкова змінна|випадкові змінні]] як зафіксовані в спостережуваних значеннях.{{efn|Хоча їх і використовують часто як синоніми у неформальному контексті, у статистиці терміни «[[wikt:правдоподібність|правдоподібність]]» та «імовірність» мають відмінні значення. {{em|Імовірність}} є властивістю зразка, а саме, наскільки імовірним є отримати певний зразок для заданого значення параметрів розподілу. {{em|Правдоподібність}} є властивістю значень параметрів. Див. {{citation |first=Stefan |last=Valavanis |chapter=Probability and Likelihood |title=Econometrics : An Introduction to Maximum Likelihood Methods |location=New York |publisher=McGraw-Hill |year=1959 |pages=24–28 |oclc=6257066 |mode=cs1 }} {{ref-en}} }}

Функція правдоподібності описує [[Гіперповерхня|гіперповерхню]], чий пік, якщо він існує, представляє поєднання значень параметрів моделі, які максимізують імовірність витягування отриманої вибірки.<ref>{{citation |first=In Jae |last=Myung |title=Tutorial on Maximum Likelihood Estimation |journal={{нп|Journal of Mathematical Psychology}} |volume=47 |issue=1 |year=2003 |pages=90–100 |doi=10.1016/S0022-2496(02)00028-7 |mode=cs1 }} {{ref-en}}</ref> Процедура отримання цих [[Аргумент максимізації|аргументів максимізації]] функції правдоподібності є відомою як [[оцінювання максимальною правдоподібністю]], яке, заради обчислювальної зручності, зазвичай застосовують з використанням [[Натуральний логарифм|натурального логарифма]] правдоподібності, відомого як '''фу́нкція логарифмі́чної правдоподі́бності''' ({{lang-en|log-likelihood function}}). Крім того, форма та кривина поверхні правдоподібності несуть інформацію про стійкість цих оцінок, через що як частину статистичного аналізу часто здійснюють побудову графіку функції правдоподібності.<ref>{{citation |first=George E. P. |last=Box |authorlink=Джордж Бокс |first2=Gwilym M. |last2=Jenkins |authorlink2=Ґвилим Дженкінс |title=Time Series Analysis : Forecasting and Control |location=San Francisco |publisher=Holden-Day |year=1976 |isbn=0-8162-1104-3 |page=224 }} {{ref-en}}</ref>

Варіант використання правдоподібності першим зробив [[Рональд Фішер]],<ref>{{citation |first=R. A. |last=Fisher |title={{нп|Statistical Methods for Research Workers}}| at= §1.2 |mode=cs1 }} {{ref-en}}</ref> який мав переконання, що він є самодостатньою системою для статистичного моделювання та висновування. Згодом {{Нп|Джордж Альфред Барнард|Барнард||George Alfred Barnard}} та {{нп|Аллан Бірнбаум|Бірнбаум||Allan Birnbaum}} очолили [[Правдоподібницька статистика|наукову школу]], яка виступила за [[принцип правдоподібності]], постулюючи, що вся доречна інформація для [[Статистичне висновування|висновування]] міститься у функції правдоподібності.<ref>{{citation |first=A. W. F. |last=Edwards |author-link=Е. В. Ф. Едвардс |title=Likelihood |publisher= {{нп|Johns Hopkins University Press}} |year=1992  |url=https://books.google.com/books?id=LL08AAAAIAAJ&pg=PA30 |mode=cs1 }} {{ref-en}}</ref><ref>{{citation |first=James O. |last=Berger |first2=Robert L. |last2=Wolpert |title=The Likelihood Principle |location=Hayward |publisher=Institute of Mathematical Statistics |year=1988 |isbn=0-940600-13-7 |page=19 |mode=cs1 }} {{ref-en}}</ref> Але навіть і в [[Частотницька ймовірність|частотницькій]] та [[Баєсове висновування|баєсовій]] статистиці функція правдоподібності відіграє́ фундаментальну роль.<ref name="BF11">{{Citation |editor1-last= Bandyopadhyay |editor1-first= P. S. |editor-first2= M. R. |editor-last2= Forster | title = Philosophy of Statistics | publisher= [[North-Holland Publishing]] | year = 2011 |mode=cs1 }} {{ref-en}}</ref>

== Означення ==

Функцію правдоподібності зазвичай означують по-різному для дискретних та неперервних розподілів імовірності. Загальне означення також є можливим, як обговорено нижче.

=== Дискретний розподіл імовірності ===

Нехай <math>X</math> буде дискретною [[Випадкова змінна|випадковою змінною]] з [[Функція маси імовірності|функцією маси ймовірності]] <math>p</math>, залежною від параметра <math>\theta</math>. Тоді функція

: <math>\mathcal{L}(\theta \mid x) = p_\theta (x) = P_\theta (X=x), </math>

що розглядають як функцію від <math>\theta</math>, є ''функцією правдоподібності'' для заданого {{нп|Результат (імовірність)|результату||Outcome (probability)}} <math>x</math> випадкової змінної <math>X</math>. Іноді ймовірність «значення <math>x</math> випадкової змінної <math>X</math> для значення параметра <math>\theta</math>» записують як {{math|''P''(''X'' {{=}} ''x'' {{!}} ''θ'')}} або {{math|''P''(''X'' {{=}} ''x''; ''θ'')}}. <math>\mathcal{L}(\theta \mid x)</math> не слід плутати з <math>p(\theta \mid x)</math>: правдоподібність дорівнює ймовірності спостерігання певного результату <math>x</math>, коли справжнім значенням параметра є <math>\theta</math>, і відтак дорівнює густині ймовірності над результатом <math>x</math>, а не над параметром <math>\theta</math>.

==== Приклад ====
[[Файл:likelihoodFunctionAfterHH.png|thumb|400px|Рис. 1.&nbsp; Функція правдоподібності (<math>p_\text{H}^2</math>) для ймовірності падіння монети аверсом ({{lang-en|heads, H}}) догори (без попереднього знання про справедливість монети) за умови, що ми проспостерігали ''HH''.]]
[[Файл:likelihoodFunctionAfterHHT.png|thumb|400px|Рис. 2.&nbsp; Функція правдоподібності (<math>p_\text{H}^2(1-p_\text{H})</math>) для ймовірності падіння монети аверсом ({{lang-en|heads, H}}) догори (без попереднього знання про справедливість монети) за умови, що ми проспостерігали ''HHT''.]]

Розгляньмо просту статистичну модель підкидання монети: єдиний параметр <math>p_\text{H}</math>, що виражає «справедливість» цієї монети. Цей параметр є ймовірністю того, що монета після підкидання впаде аверсом ({{lang-en|heads, H}}) догори. <math>p_\text{H}</math> може набувати будь-якого значення в проміжку з 0.0 по 1.0. Для ідеально {{нп|Справедлива монета|справедливої монети||Fair coin}} <math>p_\text{H} = 0.5</math>.

Уявімо підкидання справедливої монети двічі, й спостерігання наступних даних: два аверси за два підкидання (''HH''). Якщо виходити з припущення, що кожне наступне підкидання монети є [[н. о. р.]], то ймовірністю спостерігання ''HH'' є

: <math>P(\text{HH} \mid p_\text{H}=0.5) = 0.5^2 = 0.25.</math>

Отже, за заданих даних спостережень ''HH'', ''правдоподібністю'' того, що параметр моделі <math>p_\text{H}</math> дорівнює 0.5, є 0.25. Математично це записують як

: <math>\mathcal{L}(p_\text{H}=0.5 \mid \text{HH}) = 0.25.</math>

Це не те ж саме, що й сказати, що ймовірністю того, що <math>p_\text{H} = 0.5</math>, за заданого спостереження ''HH'' є 0.25. (Для цього ми можемо застосувати [[Теорема Баєса|теорему Баєса]], яка означає, що апостеріорна ймовірність є пропорційною до правдоподібності, помноженої на апріорну ймовірність.)

Припустімо, що ця монета не є справедливою, але натомість має <math>p_\text{H} = 0.3</math>. Тоді ймовірністю отримання двох аверсів є

: <math>P(\text{HH} \mid p_\text{H}=0.3) = 0.3^2 = 0.09.</math>

Отже,

: <math>\mathcal{L}(p_\text{H}=0.3 \mid \text{HH}) = 0.09.</math>

Загальніше, для кожного значення <math>p_\text{H}</math> ми можемо обчислити відповідну правдоподібність. Результати таких обчислень показано на Рис.&nbsp;1.

На Рис.&nbsp;1. інтегралом правдоподібності над проміжком [0,&#8239;1] є 1/3. Це висвітлює важливий аспект правдоподібностей: правдоподібності не мають інтегруватися (чи підсумовуватися) до 1, на відміну від імовірностей.

=== Неперервний розподіл імовірності ===

Нехай <math>X</math> буде [[Випадкова змінна|випадковою змінною]], що слідує [[Розподіл ймовірностей#Неперервні розподіли|абсолютно неперервному розподілові ймовірності]] з [[Функція густини імовірності|функцією густини]] <math>f</math>, залежною від параметра <math>\theta</math>. Тоді функція

: <math>\mathcal{L}(\theta \mid x) = f_\theta (x) = p (X=x \mid \theta), \, </math>

що розглядають як функцію від <math>\theta</math>, є ''функцією правдоподібності'' (параметра <math>\theta</math> для заданого {{нп|Результат (імовірність)|результату||Outcome (probability)}} <math>x</math> змінної <math>X</math>). Іноді функцію густини для «значення <math>x</math> змінної <math>X</math> для значення параметра <math>\theta</math>» записують як <math>f(x\mid\theta)</math>. <math>\mathcal{L}(\theta \mid x)</math> не слід плутати з <math>p(\theta \mid x)</math>: правдоподібність дорівнює густині ймовірності на певному результаті <math>x</math>, коли справжнім значенням параметра є <math>\theta</math>, і відтак вона дорівнює густині ймовірності над результатом <math>x</math>, а не над параметром <math>\theta</math>.

=== Загальний випадок ===

В {{нп|Теорія ймовірностей на основі теорії мір|теорії ймовірностей на основі теорії мір||Measure-theoretic probability theory}}<!-- Проблема вікіфікації: Сторінка [[:en:Measure-theoretic probability theory]] (→ [[:en:Probability theory#Measure-theoretic probability theory]]) перекладена як [[Теорія ймовірностей]], хоча хотіли [[Теорія ймовірностей на основі теорії мір]] (SashkoR0B0T)--> [[Функція густини ймовірності|функцію густини]] означують як [[Теорема Радона — Нікодима|похідну Радона&nbsp;— Нікодима]] розподілу ймовірності відносно спільної домінантної міри.<ref>{{citation |first=Patrick |last=Billingsley | author-link= Патрік Біллінгслі|title=Probability and Measure |publisher= [[John Wiley & Sons]] |edition=Third |year=1995 |pages=422–423 |mode=cs1 }} {{ref-en}}</ref> Функція правдоподібності є цією густиною, інтерпретованою як функція від параметра (можливо, векторного), а не від можливих результатів.<ref name="Shao03">{{citation| first= Jun| last= Shao| year= 2003 | title= Mathematical Statistics | edition= 2nd | publisher= Springer | at= §4.4.1 |mode=cs1 }} {{ref-en}}</ref> Це забезпечує функцію правдоподібності для будь-якої [[Статистична модель|статистичної моделі]] з усіма розподілами, чи то дискретними, абсолютно неперервними, сумішшю, чи чимось ще. (Правдоподібності буде можливо порівнювати, наприклад, для оцінювання параметрів, лише якщо вони є похідними Радона&nbsp;— Нікодима по відношенню до однієї й тієї ж домінантної міри.)

Наведене вище обговорення правдоподібності з дискретними ймовірностями є окремим випадком цього із застосуванням [[Лічильна міра|лічильної міри]], яка робить імовірність будь-якого одиничного результату рівною густині ймовірності для цього результату.

Якщо не задано жодної події (немає даних), то ймовірністю, і відтак правдоподібністю, є 1.{{citation needed|date=січень 2020}} Будь-яка нетривіальна подія матиме нижчу правдоподібність.

=== Функція правдоподібності параметризованої моделі ===

Із багатьох застосувань ми розглянемо тут одне, що має широку теоретичну та практичну важливість. Для заданого {{нп|Параметризоване сімейство|параметризованого сімейства||Parametrized family}} [[Функція густини ймовірності|функцій густини ймовірності]] (або [[Функція маси імовірності|функцій маси ймовірності]] у випадку дискретних розподілів)

: <math>x\mapsto f(x\mid\theta), \!</math>

де <math>\theta</math> є параметром, '''фу́нкцією правдоподі́бності''' ({{lang-en|likelihood function}}) є

: <math>\theta\mapsto f(x\mid\theta), \!</math>

що записують як

: <math>\mathcal{L}(\theta \mid x)=f(x\mid\theta), \!</math>

де <math>x</math> є спостережуваним результатом експерименту. Іншими словами, коли <math>f(x|\theta)</math> розглядають як функцію від <math>x</math> за незмінного <math>\theta</math>, вона є функцією густини ймовірності, а коли її розглядають як функцію від <math>\theta</math> за незмінного <math>x</math>, вона є функцією правдоподібності.

Це не є тим же, що й імовірність того, що ці параметри є правильними за заданої спостережуваної вибірки. Намагання інтерпретувати правдоподібність гіпотези за заданого спостережуваного свідчення як її імовірність є поширеною помилкою з потенційно катастрофічними наслідками. Як приклад цього див. [[помилка прокурора|помилку прокурора]].

З геометричної точки зору, якщо ми розглядаємо <math>f(x|\theta)</math> як функцію від двох змінних, то сімейство розподілів імовірності можливо розглядати як сімейство кривих, паралельних до осі <math>x</math>, тоді як сімейство функцій правдоподібності є перпендикулярними кривими, паралельними до осі <math>\theta</math>.

==== Правдоподібності для неперервних розподілів ====

Застосування [[Густина імовірності|густини ймовірності]] у визначенні функції правдоподібності вище може бути пояснено наступним чином. Для заданих спостережень <math>x_j</math> правдоподібність для проміжку <math>[x_j, x_j + h]</math>, де <math>h > 0</math> є сталою, задають як <math> \mathcal{L}(\theta\mid x \in [x_j, x_j + h]) </math>. Зверніть увагу, що

: <math> \operatorname{argmax}_\theta \mathcal{L}(\theta\mid x \in [x_j, x_j + h]) = \operatorname{argmax}_\theta \frac{1}{h} \mathcal{L}(\theta\mid x \in [x_j, x_j + h]) </math>,

оскільки <math> h </math> є додатною та сталою. Оскільки

: <math> 
\operatorname{argmax}_\theta \frac 1 h \mathcal{L}(\theta\mid x \in [x_j, x_j + h]) = \operatorname{argmax}_\theta \frac 1 h \Pr(x_j \leq x \leq x_j + h \mid \theta)
 = \operatorname{argmax}_\theta \frac 1 h \int_{x_j}^{x_j+h} f(x\mid \theta) \,dx,
</math>

де <math> f(x\mid \theta) </math> є функцією густини ймовірності, з цього випливає, що

: <math> \operatorname{argmax}_\theta \mathcal{L}(\theta\mid x \in [x_j, x_j + h]) = \operatorname{argmax}_\theta \frac{1}{h} \int_{x_j}^{x_j+h} f(x\mid\theta) \,dx </math>.

[[Перша фундаментальна теорема інтегрального числення]] та [[правило Лопіталя]] разом забезпечують, що

: <math>
\begin{align}
& \lim_{h \to 0^{+}} \frac 1 h \int_{x_j}^{x_j+h} f(x\mid\theta) \,dx = \lim_{h\to 0^{+}} \frac{\frac{d}{dh} \int_{x_j}^{x_j+h} f(x\mid \theta) \,dx}{\frac{dh}{dh}} \\[4pt]
= {} & \lim_{h\to 0^{+}} \frac{f(x_j + h \mid \theta)}{1} = f(x_j \mid \theta).
\end{align}
</math>

Тоді

: <math>
\begin{align}
& \operatorname{argmax}_\theta \mathcal{L}(\theta\mid x_j) = \operatorname{argmax}_\theta \left[ \lim_{h\to 0^{+}} \mathcal{L}(\theta\mid x \in [x_j, x_j + h]) \right] \\[4pt]
= {} & \operatorname{argmax}_\theta \left[ \lim_{h\to 0^{+}} \frac{1}{h} \int_{x_j}^{x_j+h} f(x\mid\theta) \,dx \right] = \operatorname{argmax}_\theta f(x_j \mid \theta).
\end{align}
</math>

Отже,

: <math> \operatorname{argmax}_\theta \mathcal{L}(\theta\mid x_j) = \operatorname{argmax}_\theta f(x_j \mid \theta), \!</math>

і відтак максимізування густини ймовірності в <math> x_j </math> є рівносильним максимізуванню правдоподібності конкретного спостереження <math> x_j </math>.

=== Правдоподібності для змішаних неперервно-дискретних розподілів ===

Наведене вище може бути в простий спосіб розширено так, щоби дозволяти розгляд розподілів, що містять як дискретні, так і неперервні складові. Припустімо, що такий розподіл складається з якоїсь кількості дискретних мас імовірності <math>p_k \theta</math> та з густини <math>f(x|\theta)</math>, де сума всіх <math>p</math>, додана до інтегралу <math>f</math>, завжди є одиницею. За припущення, що можливо розрізняти спостереження, що відповідає одній з цих дискретних мас імовірності, від того, що відповідає складовій густини, функцію правдоподібності для спостереження з неперервної складової можливо розглядати наведеним вище чином. Для спостереження з дискретної складової функцією правдоподібності для спостереження з цієї дискретної складової є просто

:<math>\mathcal{L}(\theta \mid x )= p_k(\theta), \!</math>

де <math>k</math> є індексом маси дискретної ймовірності, що відповідає спостереженню <math>x</math>, оскільки максимізування маси ймовірності (або ймовірності) в <math>x</math> є рівносильним максимізуванню правдоподібності цього конкретного спостереження.

Той факт, що функцію правдоподібності може бути визначено в спосіб, що включає не порівнянні внески (густина та маса ймовірності), випливає зі способу її визначення, в якому функцію правдоподібності визначено з точністю до сталої пропорційності, де ця «стала» може змінюватися зі спостереженням <math>x</math>, але не з параметром <math>\theta</math>.

=== Умови регулярності ===

В контексті оцінювання параметрів зазвичай виходять з того, що функція правдоподібності задовольняє певні умови, відомі як умови регулярності ({{lang-en|regularity conditions}}). З цих умов {{em|виходять}} у багатьох доведеннях, що включають функції правдоподібності, і їх потрібно перевіряти в кожному конкретному застосуванні. Для методу максимальної правдоподібності надзвичайно важливим є існування глобального максимуму функції правдоподібності. Згідно [[Друга теорема Веєрштраса|другої теореми Веєрштраса]], [[Неперервна функція|неперервна]] функція правдоподібності на [[Компактний простір|компактному]] просторі параметрів є достатньою для існування оцінювача максимальною правдоподібністю.<ref>{{cite book |first=Christian |last=Gouriéroux |authorlink=Крістіан Ґуріру |first2=Alain |last2=Monfort |title=Statistics and Econometric Models |location=New York |publisher=Cambridge University Press |year=1995 |isbn=0-521-40551-3 |page=161 |url=https://books.google.com/books?id=gqI-pAP2JZ8C&pg=PA161 |mode=cs1 }} {{ref-en}}</ref> В той час як припущення про неперервність зазвичай виконується, припущення про компактність простору параметрів часто не виконується, оскільки межі справжніх значень параметрів є невідомими. В такому випадку ключову роль відіграє [[Угнута функція|угнутість]] функції правдоподібності.

Конкретніше, якщо функція правдоподібності є двічі неперервно диференційовною на <var>k</var>-вимірному просторі параметрів <math>\Theta</math>, що вважають [[Відкрита множина|відкритою]] [[Зв'язаний простір|зв'язаною]] підмножиною <math>\mathbb{R}^{k}</math>, то унікальний максимум <math>\hat{\theta} \in \Theta</math> існує, якщо

: <math>\mathbf{H}(\theta) = \left\{ \frac{\partial^{2} L}{\partial \theta_{i} \partial \theta_{j} } \right\}</math> є [[Від'ємно визначена матриця|від'ємно визначеною]] для кожного <math>\theta \in \Theta</math>, для якого градієнт <math>\nabla L = \left\{ \partial L / \partial \theta_{i} \right\}</math> зникає, та
: <math>\lim_{\theta \to \partial \Theta} L(\theta) = 0</math>, тобто функція правдоподібності наближується до сталої на [[Межа (топологія)|межі]] простору параметрів, яка може включати точки на нескінченності, якщо <math>\Theta</math> є необмеженим.

Макелайнен та ін. доводять цей результат, застосовуючи [[Теорія Морса|теорію Морса]], неформально звертаючись до властивості гірського перевалу.<ref>{{cite journal |first=Timo |last=Mäkeläinen |first2=Klaus |last2=Schmidt |first3=George P. H. |last3=Styan |title=On the Existence and Uniqueness of the Maximum Likelihood Estimate of a Vector-Valued Parameter in Fixed-Size Samples |journal={{нп|Annals of Statistics}} |volume=9 |issue=4 |year=1981 |pages=758–767 |jstor=2240844 }} {{ref-en}}</ref> Машкареньяш підтверджує їхнє доведення, застосовуючи {{нп|Теорема про гірський перевал|теорему про гірський перевал||Mountain pass theorem}}.<ref>{{cite journal |first=W. F. |last=Mascarenhas |title=A Mountain Pass Lemma and its implications regarding the uniqueness of constrained minimizers |journal=Optimization |volume=60 |issue=8–9 |year=2011 |pages=1121–1159 |doi=10.1080/02331934.2010.527973 }} {{ref-en}}</ref>

В доведенні [[Слушний оцінювач|слушності]] та асимптотичної нормальності оцінювача максимальною правдоподібністю роблять додаткові припущення про густи́ни ймовірностей, які складають основу певної функції правдоподібності. Ці умови було вперше встановлено Чандою.<ref>{{cite journal |first=K. C. |last=Chanda |title=A Note on the Consistency and Maxima of the Roots of Likelihood Equations |journal={{нп|Biometrika}} |volume=41 |issue=1–2 |year=1954 |pages=56–61 |doi=10.2307/2333005 }} {{ref-en}}</ref> Зокрема, для [[Майже всі|майже всіх]] <math>x</math>, та для всіх <math>\theta \in \Theta</math>

: <math>\frac{\partial \log f}{\partial \theta_{r}} \,, \quad \frac{\partial^{2} \log f}{\partial \theta_{r} \partial \theta_{s}} \,, \quad \frac{\partial^{3} \log f}{\partial \theta_{r} \partial \theta_{s} \partial \theta_{t}}</math>

існують для всіх <math>r, s, t = 1, 2, \ldots, k</math>, щоби забезпечити існування [[Розклад Тейлора|розкладу Тейлора]]. По-друге, для майже всіх <math>x</math> та для кожного <math>\theta \in \Theta</math> мусить бути

: <math>\left| \frac{\partial f}{\partial \theta_{r}} \right| < F_r(x) \,, \quad \left| \frac{\partial^{2} f}{\partial \theta_{r} \partial \theta_{s}} \right| < F_{rs}(x) \,, \quad \left| \frac{\partial^{3} f}{\partial \theta_{r} \partial \theta_{s} \partial \theta_{t}} \right| < H_{rst}(x)</math>

де <math>H</math> є такою, що <math>\int_{-\infty}^{\infty} H_{rst}(z) \mathrm{d}z \leq M < \infty</math>. Ця обмеженість похідних є потрібною, щоби уможливити {{нп|диференціювання під знаком інтегралу|||Differentiation under the integral sign}}<!-- Проблема вікіфікації: Сторінка [[:en:Differentiation under the integral sign]] (→ [[:en:Leibniz integral rule#General form: Differentiation under the integral sign]]) перекладена як [[Інтегральне правило Лейбніца]], хоча хотіли [[диференціювання під знаком інтегралу]] (SashkoR0B0T)-->. І, нарешті, передбачається, що [[інформаційна матриця]]

: <math>\mathbf{I}(\theta) = \int_{-\infty}^{\infty} \frac{\partial \log f}{\partial \theta_{r}} \frac{\partial \log f}{\partial \theta_{s}} f \mathrm{d}z</math>

є [[Додатно визначена матриця|додатно визначеною]], а <math>\left| \mathbf{I}(\theta) \right|</math> є скінченною. Це забезпечує скінченність дисперсії [[Функція внеску|внеску]].<ref>{{cite book |first=Edward |last=Greenberg |first2=Charles E. Jr. |last2=Webster |title=Advanced Econometrics: A Bridge to the Literature |location=New York |publisher=John Wiley & Sons |year=1983 |isbn=0-471-09077-8 |pages=24–25 }} {{ref-en}}</ref>

Наведені вище умови є достатніми, але не необхідними. Тобто, модель, що не задовольняє ці умови регулярності, може мати, а може й не мати оцінювача максимальною правдоподібністю згаданих вище властивостей. Крім того, у випадку не незалежно або не однаково розподілених спостережень може бути потрібно очікувати додаткових властивостей.

== Відношення правдоподібностей та відносна правдоподібність ==

=== Відношення правдоподібностей ===

''Відно́шення правдоподі́бностей'' ({{lang-en|likelihood ratio}})&nbsp;— це відношення будь-яких двох вказаних правдоподібностей, що часто записують як

: <math>\Lambda(\theta_1:\theta_2 \mid x) = \frac{\mathcal{L}(\theta_1 \mid x)}{\mathcal{L}(\theta_2 \mid x)}</math>

Відношення правдоподібностей є центральним для [[Правдоподібницька статистика|правдоподібницької статистики]]: [[закон правдоподібності]] встановлює, що ступінь, до якого дані (що розглядають як свідчення) підтримують один параметр проти іншого, вимірюється відношенням правдоподібностей.

В [[Частотницьке висновування|частотницькому висновуванні]] відношення правдоподібності є основою для [[Статистичний критерій|статистичного критерію]], так званої [[Перевірка відношенням правдоподібностей|перевірки відношенням правдоподібностей]]. Згідно {{нп|Лема Неймана — Пірсона|леми Неймана&nbsp;— Пірсона||Neyman–Pearson lemma}}, вона є [[Статистична потужність|найпотужнішою]] перевіркою для порівнювання двох [[Проста гіпотеза|простих гіпотез]] на заданому [[Рівень статистичної значущості|рівні значущості]]. Численні інші критерії можливо розглядати як перевірки відношенням правдоподібностей, або його наближеннями.<ref>{{cite journal |first=A. |last=Buse |title=The Likelihood Ratio, Wald, and Lagrange Multiplier Tests: An Expository Note |journal={{нп|The American Statistician}} |volume=36 |issue=3a |year=1982 |pages=153–157 |doi=10.1080/00031305.1982.10482817 }} {{ref-en}}</ref> Асимптотичний розподіл логарифмічного відношення правдоподібностей, що розглядають як статистичний критерій, задано [[Теорема Уїлкса|теоремою Уїлкса]].

Відношення правдоподібностей також має центральне значення в [[Баєсове висновування|баєсовім висновуванні]], де воно є відомим як [[коефіцієнт Баєса]], і застосовується в [[Правило Баєса|правилі Баєса]]. Викладене в термінах {{нп|Шанси|шансів||Odds}} ({{lang-en|odds}}), правило Баєса полягає в тім, що ''апостеріорні'' шанси двох альтернатив, {{tmath|A_1}} та {{tmath|A_2}}, за умови події {{tmath|B}}, є ''апріорними'' шансами, помноженими на відношення правдоподібностей. У вигляді рівняння:

: <math>O(A_1:A_2 \mid B) = O(A_1:A_2) \cdot \Lambda(A_1:A_2 \mid B).</math>

Відношення правдоподібності не використовують в статистиці на основі [[Інформаційний критерій Акаіке|ІКА]] напряму. Натомість використовують відносну правдоподібність моделей (див. нижче).

==== Відмінність від відношення шансів ====

Відношення правдоподібностей двох моделей, коли задано одну й ту ж подію, може бути протиставлено з {{нп|Шанси|шансами||Odds}} двох подій, коли задано одну й ту ж модель. В термінах параметризованої функції маси ймовірності {{tmath|p_\theta(x)}}, відношенням правдоподібностей двох параметрів {{tmath|\theta_1}} та {{tmath|\theta_2}} за заданого результату {{tmath|x}} є

: <math>\Lambda(\theta_1:\theta_2 \mid x) = p_{\theta_1}(x) : p_{\theta_2}(x),</math>

тоді як шансами двох результатів, {{tmath|x_1}} та {{tmath|x_2}}, за заданого значення параметра {{tmath|\theta}}, є

: <math>O(x_1:x_2 \mid \theta) = p_\theta (x_1) : p_\theta (x_2).</math>

Це підкреслює різницю між правдоподібностями та шансами: в правдоподібностях порівнюють моделі (параметри), тримаючи дані незмінними, тоді як в шансах порівнюють події (результати, дані), тримаючи незмінною модель.

{{нп|Відношення шансів|||Odds ratio}} є відношенням двох умовних шансів (події, за заданої присутності або відсутності іншої події). Проте відношення шансів також можливо інтерпретувати як відношення двох відношень правдоподібностей, якщо розглядати одну з подій як спостережувану легше за іншу. Див. [[діагностичне відношення шансів]], де результат [[Перевірка для встановлення діагнозу|перевірки для встановлення діагнозу]] спостерігати легше, ніж наявність або відсутність [[Медичний стан|медичного стану]], що лежить в його основі.

=== Функція відносної правдоподібності ===
{{Див. також|Відносна правдоподібність}}

Оскільки фактичне значення функції правдоподібності залежить від вибірки, часто зручно працювати зі стандартизованою мірою. Припустімо, що [[Оцінка максимальною правдоподібністю|оцінкою максимальною правдоподібністю]] для параметра {{mvar|&theta;}} є <math>\hat{\theta}</math>. Відносні достовірності ({{lang-en|plausibilities}}) інших значень {{mvar|&theta;}} може бути знайдено порівнюванням правдоподібностей цих інших значень з правдоподібністю <math>\hat{\theta}</math>. '''Відно́сну правдоподі́бність''' ({{lang-en|relative likelihood}}) {{mvar|&theta;}} означують як<ref name="Kalbfleisch">{{citation | author-link= Джеймс Ґ. Кальбфляіш | last= Kalbfleisch | first= J. G. | year=1985 | title= Probability and Statistical Inference | publisher= Springer}} (&sect;9.3). {{ref-en}}</ref><ref>{{citation| last= Azzalini | first= A. | title= Statistical Inference—Based on the likelihood | year= 1996 | publisher= [[Chapman & Hall]] | url= https://books.google.co.uk/books?id=hyN6gXHvSo0C | isbn= 9780412606502 }} (&sect;1.4.2). {{ref-en}}</ref><ref name="Sprott">Sprott, D. A. (2000), ''Statistical Inference in Science'', Springer (chap.&nbsp;2). {{ref-en}}</ref><ref>Davison, A. C. (2008), ''Statistical Models'', [[Cambridge University Press]] (§4.1.2). {{ref-en}}</ref><ref>{{citation|first1= L. | last1= Held | first2= D. S. | last2= Sabanés Bové | title= Applied Statistical Inference—Likelihood and Bayes | year= 2014 | publisher= Springer}} (&sect;2.1). {{ref-en}}</ref>

: <math>R(\theta) = \frac{\mathcal{L}(\theta \mid x)}{\mathcal{L}(\hat{\theta} \mid x)}.</math>

Таким чином, відносна правдоподібність є відношенням правдоподібностей (обговореним вище) з незмінним знаменником <math> \mathcal{L}(\hat{\theta})</math>. Це відповідає унормуванню цієї правдоподібності, щоби вона мала за максимум 1.

==== Область правдоподібності ====

'''О́бласть правдоподі́бності''' ({{lang-en|likelihood region}})&nbsp;— це множина всіх значень {{mvar|&theta;}}, чиї відносні правдоподібності є більшими або рівними заданому порогові. В термінах відсотків, '''{{mvar|p}}%-ву область правдоподібності''' для {{mvar|&theta;}} означують як<ref name="Kalbfleisch"/><ref name="Sprott"/><ref name="Rossi2018">{{citation | last= Rossi | first= R. J. | year= 2018 | title= Mathematical Statistics | publisher= [[John Wiley & Sons|Wiley]] | page= 267 }} {{ref-en}}</ref>

: <math>
\left\{\theta : R(\theta) \ge \frac p {100} \right\}.
</math>

Якщо {{mvar|&theta;}} є єдиним дійснозначним параметром, то {{mvar|p}}%-ва область правдоподібності зазвичай становить [[Проміжок (математика)|проміжок]] дійсних значень. Якщо ця область дійсно становить проміжок, то її називають '''про́міжком правдоподі́бності''' ({{lang-en|likelihood interval}}).<ref name="Kalbfleisch"/><ref name="Sprott"/><ref name=Hudson>{{Citation
| last1 = Hudson | first1 = D. J.
| title = Interval estimation from the likelihood function
| journal = {{нп|Journal of the Royal Statistical Society, Series B}}
| volume = 33
| issue = 2
| pages = 256–262
| doi =  
| year = 1971 
}} {{ref-en}}</ref>

Проміжки правдоподібності, та, загальніше, області правдоподібності використовують для {{нп|Проміжкове оцінювання|проміжкового оцінювання||Interval estimation}} в правдоподібницькій статистиці: вони є подібними до [[Довірчий проміжок|довірчих проміжків]] у частотницькій статистиці та [[Імовірний проміжок|ймовірних проміжків]] у баєсовій статистиці. Проміжки правдоподібності тлумачать безпосередньо в термінах відносної правдоподібності, а не в термінах {{нп|Імовірність накриття|ймовірності накриття||Coverage probability}} (частотництво) чи [[Апостеріорна ймовірність|апостеріорної ймовірності]] (баєсівство).

Для заданої моделі проміжки правдоподібності можливо порівнювати з довірчими проміжками. Якщо {{mvar|&theta;}} є єдиним дійснозначним параметром, то, за певних умов 14.65%-й проміжок правдоподібності (правдоподібність близько 1:7) для {{mvar|&theta;}} буде таким же, як і 95%-й довірчий проміжок (ймовірність накриття 19/20).<ref name="Kalbfleisch"/><ref name="Rossi2018"/> У дещо відмінному формулюванні, пристосованому для використання логарифмічних правдоподібностей (див. [[Перевірка відношенням правдоподібностей#Розподіл: теорема Уїлкса|теорему Уїлкса]]), перевірна статистика є подвоєною різницею логарифмічних правдоподібностей, а розподіл імовірності цієї перевірної статистики приблизно є [[Розподіл хі-квадрат|розподілом хі-квадрат]] зі [[Ступені вільності (статистика)|ступенями вільності]], що дорівнюють різниці в ступенях вільності між цими двома моделями (тому проміжок правдоподібності {{mvar|e}}<sup>&minus;2</sup> є таким же, як і довірчий проміжок 0.954, за припущення, що різницею в ступенях вільності є 1).<ref name="Rossi2018"/><ref name=Hudson/>

== Правдоподібності, що усувають завадні параметри ==

В багатьох випадках правдоподібність є функцією більш ніж одного параметра, але інтерес зосереджується на оцінюванні лише одного, або щонайбільше декількох з них, з розглядом інших як {{нп|Завадний параметр|завадних параметрів||Nuisance parameter}}. Було розроблено декілька альтернативних підходів для усування таких завадних параметрів таким чином, щоби функцію правдоподібності могло бути записано як функцію лише параметра (або параметрів), що становлять інтерес: головними підходами є профільна ({{lang-en|profile}}), умовна ({{lang-en|conditional}}) та відособлена ({{lang-en|marginal}}) правдоподібності.<ref>{{cite book |title=In All Likelihood: Statistical Modelling and Inference Using Likelihood |first=Yudi |last=Pawitan |year=2001 |publisher= [[Oxford University Press]] }} {{ref-en}}</ref><ref>{{cite web | author = Wen Hsiang Wei |url= http://web.thu.edu.tw/wenwei/www/glmpdfmargin.htm |title = Generalized Linear Model - course notes | pages = Chapter 5 | publisher = {{нп|Університет Тунгай|Tunghai University||Tunghai University}} | location= Taichung, Taiwan | accessdate = 2017-10-01 }} {{ref-en}}</ref> Ці підходи є також корисними, коли потрібно звужувати поверхні правдоподібності високої вимірності до одного чи двох параметрів, що становлять інтерес, щоби уможливити побудову [[Графік функції|графіку]].

=== Профільна правдоподібність ===

Можливо знижувати розмірності, зосереджуючи функцію правдоподібності на підмножині параметрів шляхом виражання завадних параметрів як функцій від параметрів, що становлять інтерес, і заміни їх у функції правдоподібності.<ref>{{cite book |first=Takeshi |last=Amemiya |authorlink=Такесі Амемія |title=Advanced Econometrics |chapter=Concentrated Likelihood Function |location=Cambridge |publisher=Harvard University Press |year=1985 |pages=[https://archive.org/details/advancedeconomet00amem/page/125 125–127] |isbn=978-0-674-00560-0 |chapterurl=https://books.google.com/books?id=0bzGQE14CwEC&pg=PA125 |url-access=registration |url=https://archive.org/details/advancedeconomet00amem/page/125 }} {{ref-en}}</ref><ref>{{cite book |first=Russell |last=Davidson |first2=James G. |last2=MacKinnon |authorlink2=Джеймс Ґ. Маккіннон |title=Estimation and Inference in Econometrics |url=https://archive.org/details/estimationinfere0000davi |chapter=Concentrating the Loglikelihood Function |location=New York |publisher=Oxford University Press |year=1993 |pages=[https://archive.org/details/estimationinfere0000davi/page/267 267]–269 |isbn=978-0-19-506011-9 }} {{ref-en}}</ref> Загалом, для функції правдоподібності, що залежить від вектору параметрів <math>\mathbf{\theta}</math>, який можливо розбити на <math>\mathbf{\theta} = \left( \mathbf{\theta}_{1} : \mathbf{\theta}_{2} \right)</math>, і де відповідність <math>\mathbf{\hat{\theta}}_{2} = \mathbf{\hat{\theta}}_{2} \left( \mathbf{\theta}_{1} \right)</math> можливо визначити явно, зосереджування знижує [[Обчислювальна складність|обчислювальне навантаження]] первинної задачі максимізації.<ref>{{cite book |first=Christian |last=Gourieroux |first2=Alain |last2=Monfort |title=Statistics and Econometric Models |chapter=Concentrated Likelihood Function |location=New York |publisher=Cambridge University Press |year=1995 |isbn=978-0-521-40551-5 |pages=170–175 |chapterurl=https://books.google.com/books?id=gqI-pAP2JZ8C&pg=PA170 |mode=cs1 }} {{ref-en}}</ref>

Наприклад, в [[Лінійна регресія|лінійній регресії]] з нормально розподіленими похибками, <math>\mathbf{y} = \mathbf{X} \beta + u</math>, вектор коефіцієнтів може бути [[Розбиття множини|розбито]] на <math>\beta = \left[ \beta_{1} : \beta_{2} \right]</math> (а {{нп|Матриця плану|матрицю плану||Design matrix}}, відповідно, на <math>\mathbf{X} = \left[ \mathbf{X}_{1} : \mathbf{X}_{2} \right]</math>). Максимізування відносно <math>\beta_{2}</math> видає функцію оптимального значення <math>\beta_{2} (\beta_{1}) = \left( \mathbf{X}_{2}^{\mathsf{T}} \mathbf{X}_{2} \right)^{-1} \mathbf{X}_{2}^{\mathsf{T}} \left( \mathbf{y} - \mathbf{X}_{1} \beta_{1} \right)</math>. Із застосуванням цього результату оцінювач максимальною правдоподібністю для <math>\beta_{1}</math> може бути виведено як

: <math>\hat{\beta}_{1} = \left( \mathbf{X}_{1}^{\mathsf{T}} \left( \mathbf{I} - \mathbf{P}_{2} \right) \mathbf{X}_{1} \right)^{-1} \mathbf{X}_{1}^{\mathsf{T}} \left( \mathbf{I} - \mathbf{P}_{2} \right) \mathbf{y}</math>

де <math>\mathbf{P}_{2} = \mathbf{X}_{2} \left( \mathbf{X}_{2}^{\mathsf{T}} \mathbf{X}_{2} \right)^{-1} \mathbf{X}_{2}^{\mathsf{T}}</math> є {{нп|Проєктивна матриця|проєктивною матрицею||Projection matrix}} <math>\mathbf{X}_{2}</math>. Цей результат є відомим як {{нп|теорема Фріша — Во — Ловелла|||Frisch–Waugh–Lovell theorem}}.

Оскільки графічно процедура зосереджування є рівнозначною нарізанню поверхні правдоподібності по хребту значень завадного параметра <math>\beta_{2}</math>, яке максимізує функцію правдоподібності, створюючи [[Ізолінія|ізометричний]] {{нп|Топографічний профіль|профіль||Topographic profile}} функції правдоподібності для заданого <math>\beta_{1}</math>, результат цієї процедури є також відомим як '''про́фільна правдоподі́бність''' ({{lang-en|profile likelihood}}).<ref>{{citation |first=Andrew |last=Pickles |title=An Introduction to Likelihood Analysis |location=Norwich |publisher=W. H. Hutchins & Sons |year=1985 |isbn=0-86094-190-6 |pages=[https://archive.org/details/introductiontoli0000pick/page/21 21–24] |mode=cs1 |url=https://archive.org/details/introductiontoli0000pick/page/21 }} {{ref-en}}</ref><ref>{{cite book |first=Benjamin M. |last=Bolker |title=Ecological Models and Data in R |location= |publisher=Princeton University Press |year=2008 |isbn=978-0-691-12522-0 |pages=187–189 |url=https://books.google.com/books?id=flyBd1rpqeoC&pg=PA188 }} {{ref-en}}</ref> На додачу до графічного зображування, профільну правдоподібність також можливо використовувати для обчислювання [[Довірчий проміжок|довірчих проміжків]], які часто мають кращі властивості на малих вибірках, ніж основані на асимптотичних [[Стандартна похибка|стандартних похибках]], обчислюваних із повної правдоподібності.<ref>{{citation |first=Murray |last=Aitkin |chapter=Direct Likelihood Inference |title=GLIM 82: Proceedings of the International Conference on Generalised Linear Models |publisher=Springer |year=1982 |isbn=0-387-90777-7 |pages=76–86 |mode=cs1 }} {{ref-en}}</ref><ref>{{citation |first=D. J. |last=Venzon |first2=S. H. |last2=Moolgavkar |title=A Method for Computing Profile-Likelihood-Based Confidence Intervals |journal={{нп|Journal of the Royal Statistical Society}} |series=Series C (Applied Statistics) |volume=37 |issue=1 |year=1988 |pages=87–94 |doi=10.2307/2347496 |mode=cs1 }} {{ref-en}}</ref>

=== Умовна правдоподібність ===

Іноді для завадних параметрів можливо знайти [[Достатня статистика|достатню статистику]], і обумовлювання цією статистикою дає в результаті правдоподібність, що не залежить від завадних параметрів.<ref>{{cite journal |first=J. D. |last=Kalbfleisch |first2=D. A. |last2=Sprott |title=Marginal and Conditional Likelihoods |journal=Sankhyā: The Indian Journal of Statistics |series=Series A |volume=35 |issue=3 |year=1973 |pages=311–328 |jstor=25049882 }} {{ref-en}}</ref>

Один із прикладів трапляється в таблицях 2×2, де обумовлювання усіма чотирма відособленими підсумками веде до умовної правдоподібності на основі нецентрального [[Гіпергеометричний розподіл|гіпергеометричного розподілу]]. Цей вид обумовлювання є також основою {{нп|Точний тест Фішера|точного тесту Фішера||Fisher's exact test}}.

=== Відособлена правдоподібність ===
{{Main|Відособлена правдоподібність}}

Іноді ми можемо усувати завадні параметри, розглядаючи правдоподібність на основі лише частини інформації з даних, наприклад, застосуванням набору порядків замість числових значень. Інший приклад трапляється в лінійних [[Змішана модель|змішаних моделях]], де розгляд правдоподібності лише для залишків після допасовування фіксованих впливів веде до оцінювання {{нп|Залишкова максимальна правдоподібність|залишковою максимальною правдоподібністю||Residual maximum likelihood}} складових відхилення.

=== Часткова правдоподібність ===

Часткова правдоподібність ({{lang-en|partial likelihood}})&nbsp;— це таке пристосування повної правдоподібності, що в ньому є лише частина параметрів (параметри, що становлять інтерес).<ref>
{{citation
 |last=Cox |first=D. R. |authorlink=Девід Кокс (статистик)
 |title=Partial likelihood
 |journal={{нп|Biometrika}}
 |year=1975 |volume=62 |issue=2 |pages=269&ndash;276
 |doi=10.1093/biomet/62.2.269 |mr=0400509
|mode=cs1 }} {{ref-en}}</ref> Вона є ключовою складовою {{нп|Модель пропорційних ризиків|моделі пропорційних ризиків||Proportional hazards model}}: з використанням обмеження на функцію ризиків, правдоподібність не містить фігури ризику в часі.

== Добуток правдоподібностей ==

Правдоподібність за заданих двох або більше [[Незалежність (теорія ймовірностей)|незалежних]] [[Випадкова подія|подіях]] є добутком правдоподібностей кожної з цих окремих подій:

: <math>\Lambda(A \mid X_1 \land X_2) = \Lambda(A \mid X_1) \cdot \Lambda(A \mid X_2)</math>

Це випливає з означення незалежності в теорії ймовірностей: імовірністю трапляння двох незалежних подій за заданої моделі є добуток цих імовірностей.

Це є особливо важливим, коли події походять від [[Незалежні однаково розподілені випадкові змінні|незалежних однаково розподілених випадкових змінних]], таких як незалежні спостереження або {{нп|вибирання з повертанням|||Sampling with replacement}}. В такій ситуації функція правдоподібності розкладається на добуток окремих функцій правдоподібностей.

Порожній добуток має значення 1, яке відповідає правдоподібності за відсутності події, що становить 1: перед будь-якими даними правдоподібністю завжди є 1. Це є подібним до [[Рівномірне апріорне|рівномірного апріорного]] в баєсовій статистиці, але в правдоподібницькій статистиці це не є [[Некоректне апріорне|некоректним апріорним]], оскільки правдоподібності не інтегруються.

== Логарифмічна правдоподібність ==
{{Докладніше1|[[Логарифмічна ймовірність]]}}

'''Фу́нкція логарифмі́чної правдоподі́бності''' ({{lang-en|log-likelihood function}})&nbsp;— це логарифмічне перетворення функції правдоподібності, яке часто позначують маленькою {{math|''l''}} або {{tmath|\ell}}, на противагу до великої {{math|''L''}} або <math>\mathcal{L}</math> для самої правдоподібності. Оскільки [[угнутість]] відіграє́ в [[Математична оптимізація|максимізації]] ключову роль, а більшість поширених [[Розподіл імовірності|розподілів імовірності]], зокрема, {{Нп|Експоненційне сімейство|експоненційного сімейства||Exponential family}}, є лише [[Логарифмічно угнута функція|логарифмічно угнутими]],<ref>{{citation |first=Robert E. |last=Kass |first2=Paul W. |last2=Vos |title=Geometrical Foundations of Asymptotic Inference |location=New York |publisher=John Wiley & Sons |year=1997 |isbn=0-471-82668-5 |page=14 |url=https://books.google.com/books?id=e43EAIfUPCwC&pg=PA14 |mode=cs1 }} {{ref-en}}</ref><ref>{{cite web |first=Alecos |last=Papadopoulos |title=Why we always put log() before the joint pdf when we use MLE (Maximum likelihood Estimation)? |date=25 вересня 2013 |work=[[Stack Exchange]] |url=https://stats.stackexchange.com/q/70975 }} {{ref-en}}</ref> зазвичай набагато зручніше працювати з функціями логарифмічних правдоподібностей. Також, логарифмічна правдоподібність є особливо зручною в [[Оцінювання максимальною правдоподібністю|оцінюванні максимальною правдоподібністю]]. Оскільки логарифми є [[Строго висхідна функція|строго висхідними]] функціями, максимізування правдоподібності є рівнозначним максимізуванню логарифмічної правдоподібності.

За умови незалежності кожної з подій, загальна логарифмічна правдоподібність перетину дорівнює сумі логарифмічних правдоподібностей окремих подій. Це є аналогічним тому фактові, що загальна [[логарифмічна ймовірність]] є сумою логарифмічних імовірностей цих окремих подій. На додачу до математичної зручності, яку це дає, процес додавання логарифмічних правдоподібностей має інтуїтивну інтерпретацію, яку часто виражають як «підтримку» даними. Коли параметри оцінюють, застосовуючи логарифмічну правдоподібність для [[оцінювання максимальною правдоподібністю]], кожну точку даних використовують додаванням до підсумкової логарифмічної правдоподібності. Оскільки ці дані можливо розглядати як свідчення, що підтримують оцінювані параметри, цей процес можливо інтерпретувати як «підтримка від незалежних свідчень ''додається''», а логарифмічна правдоподібність є «вагою свідчення». Якщо інтерпретувати від'ємну логарифмічну правдоподібність як [[Власна інформація|власну інформацію]], або [[несподіваність]], то підтримка (логарифмічна правдоподібність) моделі, за заданої події, є від'ємною несподіваністю цієї події за заданої моделі: модель підтримувано подією в тій мірі, в якій ця подія не є несподіваною за заданої моделі.

Вибір основи {{math|''b''}} для логарифма відповідає виборові масштабу.{{efn|Масштабним коефіцієнтом є {{tmath|\log_a b}}; див. {{slink|Логарифм|Зміна основи}}}} Зазвичай використовують [[натуральний логарифм]], й основу залишають незмінною, але іноді основу роблять змінною, в разі чого записуючи основу як <math>b=e^\beta</math>, коефіцієнт {{mvar|''β''}} можливо інтерпретувати як {{нп|холодність|||Coldness}}.{{efn|«Холодність» є також відомою як {{нп|термодинамічна бета|||Thermodynamic beta}}, або {{нп|обернена температура|||Inverse temperature}}. Приклади варіювання холодності див. в {{нп|Інформаційний критерій Ватанабе — Акаіке|інформаційному критерієві Ватанабе — Акаіке||Watanabe–Akaike information criterion}} та [[Функція softmax у статистичній механіці|функції softmax у статистичній механіці]].}}

Логарифм відношення правдоподібностей дорівнює різниці логарифмічних правдоподібностей:

: <math>\log \frac{L(A)}{L(B)} = \log L(A) - \log L(B) = \ell(A) - \ell(B).</math>

Точно як і правдоподібність, що за відсутності події є 1, логарифмічною правдоподібністю за відсутності події є 0, що відповідає значенню нульової суми: без бодай якихось даних не існує підтримки для жодної моделі.

=== Рівняння правдоподібності ===

Якщо функція логарифмічної правдоподібності є [[Гладкість функції|гладкою]], то її [[градієнт]] відносно параметра, відомий як [[Внесок (статистика)|внесок]] і записуваний як <math>s_{n}(\theta) \equiv \nabla_{\theta} \ell_{n}(\theta)</math>, існує й дозволяє застосовувати [[диференціальне числення]]. Базовим способом максимізувати диференційовну функцію є знаходити [[Стаціонарна точка|стаціонарні точки]] (такі, де її [[похідна]] є нульовою). Оскільки похідна суми є просто сумою похідних, а похідна добутку вимагає [[Правило добутку|правила добутку]], простіше обчислювати стаціонарні точки логарифмічної правдоподібності окремих подій, ніж правдоподібності окремих подій.

Рівняння, що визначає стаціонарна точка функції внеску, слугують {{нп|Оцінні рівняння|оцінними рівняннями||Estimating equations}} для оцінювача максимальною правдоподібністю.

: <math>s_{n}(\theta) = \mathbf{0}</math>

В цьому сенсі оцінювач максимальною правдоподібністю неявно визначається значенням в <math>\mathbf{0}</math> [[Обернена функція|оберненої функції]] <math>s_{n}^{-1}: \mathbb{E}^{d} \to \Theta</math>, де <math>\mathbb{E}^{d}</math> є <var>d</var>-вимірним [[Евклідів простір|евклідовим простором]]. Шляхом застосування [[Теорема про обернену функцію|теореми про обернену функцію]] можливо показати, що <math>s_{n}^{-1}</math> є {{нп|Однозначна означеність|однозначно означеною||Well-defined}} у {{нп|Відкритий окіл|відкритому околі||Open neighborhood}}<!-- Проблема вікіфікації: Сторінка [[:en:Open neighborhood]] (→ [[:en:Neighbourhood (mathematics)#open neighbourhood]]) перекладена як [[Окіл]], хоча хотіли [[Відкритий окіл]] (SashkoR0B0T)--> навколо <math>\mathbf{0}</math> з імовірністю, що прямує до одиниці, а <math>\hat{\theta}_{n} = s_{n}^{-1}(\mathbf{0})</math> є [[Слушна оцінка|слушною оцінкою]] <math>\theta</math>. Як наслідок, існує така послідовність <math>\left\{ \hat{\theta}_{n} \right\}</math>, що <math>s_{n}(\hat{\theta}_{n}) = \mathbf{0}</math> асимптотично [[майже напевно]], і <math>\hat{\theta}_{n} \xrightarrow{\text{p}} \theta_{0}</math>.<ref>{{cite journal |first=Robert V. |last=Foutz |title=On the Unique Consistent Solution to the Likelihood Equations |journal={{нп|Journal of the American Statistical Association}} |volume=72 |year=1977 |issue=357 |pages=147–148 |doi=10.1080/01621459.1977.10479926 }} {{ref-en}}</ref> Аналогічний результат можливо встановити, застосувавши [[Теорема Ролля|теорему Ролля]].<ref>{{cite journal |first=Robert E. |last=Tarone |first2=Gary |last2=Gruenhage |title=A Note on the Uniqueness of Roots of the Likelihood Equations for Vector-Valued Parameters |url=https://archive.org/details/sim_journal-of-the-american-statistical-association_1975-12_70_352/page/903 |journal=Journal of the American Statistical Association |volume=70 |year=1975 |issue=352 |pages=903–904 |doi=10.1080/01621459.1975.10480321 }} {{ref-en}}</ref><ref>{{cite journal |first=Kamta |last=Rai |first2=John |last2=Van Ryzin |title=A Note on a Multivariate Version of Rolle's Theorem and Uniqueness of Maximum Likelihood Roots |journal=Communications in Statistics |series=Theory and Methods |volume=11 |year=1982 |issue=13 |pages=1505–1510 |doi=10.1080/03610928208828325 }} {{ref-en}}</ref>

Друга похідна, обчислювана в <math>\hat{\theta}</math>, відома як [[інформація за Фішером]], визначає кривину поверхні правдоподібності,<ref>{{citation |first=B. Raja |last=Rao |title=A formula for the curvature of the likelihood surface of a sample drawn from a distribution admitting sufficient statistics |journal={{нп|Biometrika}} |volume=47 |issue=1–2 |year=1960 |pages=203–207 |doi=10.1093/biomet/47.1-2.203 |mode=cs1 }} {{ref-en}}</ref> і відтак показуючи {{нп|Прецизійність (статистика)|прецизійність||Precision (statistics)}} оцінки.<ref>{{citation |first=Michael D. |last=Ward |first2=John S. |last2=Ahlquist |title=Maximum Likelihood for Social Science : Strategies for Analysis |publisher= [[Cambridge University Press]] |year=2018 |pages=25–27 |mode=cs1 }} {{ref-en}}</ref>

=== Експоненційні сімейства ===
{{Докладніше1|{{Нп|Експоненційне сімейство|||Exponential family}}}}

Логарифмічна правдоподібність є також надзвичайно корисною для {{Нп|Експоненційне сімейство|експоненційних сімейств||Exponential family}} розподілів, до яких можуть входити багато поширених {{нп|Параметрична модель|параметричних розподілів імовірностей||Parametric model}}. Функція розподілу ймовірності (й відтак функція правдоподібності) для експоненційних сімейств містить добутки множників, що містять [[піднесення до степеня]]. Логарифм такої функції є сумою добутків, знов-таки простішою для диференціювання за первинну функцію.

Експоненційне сімейство&nbsp;— це таке, чия функція густини ймовірності має вигляд (для деяких функцій, із позначенням через <math>\langle -, - \rangle</math> [[Внутрішній добуток|внутрішнього добутку]]):

: <math> p(x \mid \boldsymbol \theta) = h(x) \exp\Big(\langle \boldsymbol\eta({\boldsymbol \theta}), \mathbf{T}(x)\rangle -A({\boldsymbol \theta}) \Big).</math>

Кожен із цих членів має інтерпретацію,{{efn|Див. {{нп|Експоненційне сімейство#Інтерпретація|Експоненційне сімейство § Інтерпретація||Exponential family#Interpretation}}}} але простий перехід від імовірності до правдоподібності та взяття логарифмів дає суму

: <math> \ell(\boldsymbol \theta \mid x) = \langle \boldsymbol\eta({\boldsymbol \theta}), \mathbf{T}(x)\rangle - A({\boldsymbol \theta}) + \log h(x).</math>

<math>\boldsymbol \eta(\boldsymbol \theta)</math> та <math>h(x)</math> відповідають [[Зміна координат|зміні координат]], тож у цих координатах логарифмічна правдоподібність експоненційного сімейства задається простою формулою

: <math> \ell(\boldsymbol \eta \mid x) = \langle \boldsymbol\eta, \mathbf{T}(x)\rangle - A({\boldsymbol \eta}).</math>

Словами, логарифмічна правдоподібність експоненційного сімейства є внутрішнім добутком природного параметра {{tmath|\boldsymbol\eta}} та [[Достатня статистика|достатньої статистики]] {{tmath|\mathbf{T}(x)}}, мінус коефіцієнт унормування ({{нп|логарифмічна статистична сума|||Log-partition function}}) {{tmath|A({\boldsymbol \eta})}}. Таким чином, наприклад, оцінку максимальною правдоподібністю може бути обчислено взяттям похідних достатньої статистики {{math|''T''}} та логарифмічної статистичної суми {{math|''A''}}.

==== Приклад: гамма-розподіл ====

[[Гамма-розподіл]]&nbsp;— це експоненційне сімейство з двома параметрами, <math>\alpha</math> та <math>\beta</math>. Його функцією правдоподібності є

: <math>\mathcal{L} (\alpha, \beta \mid x) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x}.</math>

Знаходження оцінки максимальної правдоподібності <math>\beta</math> для єдиного спостережуваного значення <math>x</math> виглядає дещо складним. З його логарифмом працювати набагато простіше:

: <math>\log \mathcal{L}(\alpha,\beta \mid x) = \alpha \log \beta - \log \Gamma(\alpha) + (\alpha-1) \log x  - \beta x. \, </math>

Щоби максимізувати логарифмічну правдоподібність, ми спершу беремо [[Часткова похідна|часткову похідну]] за <math>\beta</math>:

: <math>\frac{\partial \log \mathcal{L}(\alpha,\beta \mid x)}{\partial \beta} = \frac{\alpha}{\beta} - x.</math>

Якщо є ряд незалежних спостережень <math>x_1, \ldots, x_n</math>, то спільною логарифмічною правдоподібністю буде сума окремих логарифмічних правдоподібностей, а похідною цієї суми буде сума похідних всіх окремих логарифмічних правдоподібностей:

: <math>
\begin{align}
& \frac{\partial \log \mathcal{L}(\alpha,\beta \mid x_1, \ldots, x_n)}{\partial \beta} \\
= {} & \frac{\partial \log \mathcal{L}(\alpha,\beta \mid x_1)}{\partial \beta} + \cdots + \frac{\partial \log \mathcal{L}(\alpha,\beta \mid x_n)}{\partial \beta} = \frac{n \alpha} \beta - \sum_{i=1}^n x_i.
\end{align}
</math>

Щоби завершити процедуру максимізування для спільної логарифмічної правдоподібності, це рівняння встановлюють в нуль, і розв'язують для <math>\beta</math>:

: <math>\widehat\beta = \frac{\alpha}{\bar{x}}.</math>

Тут <math>\widehat\beta</math> позначує оцінку максимальною правдоподібністю, а <math>\textstyle \bar{x} = \frac{1}{n} \sum_{i=1}^n x_i</math> є [[Вибіркове середнє|вибірковим середнім]] спостережень.

== Походження та інтерпретація ==

=== Історичні зауваження ===
{{Докладніше1|{{нп|Історія статистики|||History of statistics}} та [[Історія теорії ймовірності]]}}

Термін {{lang-en|likelihood}} (правдоподібність) був у вжитку в англійській щонайменше з [[Середньоанглійська мова|середньоанглійської]].<ref>"likelihood", {{нп|Shorter Oxford English Dictionary|''Shorter Oxford English Dictionary''||Shorter Oxford English Dictionary}} (2007). {{ref-en}}</ref> Його формальне застосування для позначення конкретної [[Функція (математика)|функції]] в математичній статистиці було запропоновано [[Рональд Фішер|Рональдом Фішером]]<ref>{{Citation | title=On the history of maximum likelihood in relation to inverse probability and least squares| first= A. | last=Hald |authorlink=Андерс Гальд |journal={{нп|Statistical Science}} |volume= 14| issue=2 |year=1999 | pages =214&ndash;222 | doi=10.1214/ss/1009212248 | jstor = 2676741|url=http://projecteuclid.org/download/pdf_1/euclid.ss/1009212248 |mode=cs1 }} {{ref-en}}</ref> у двох дослідницьких працях, опублікованих 1921<ref>{{citation
 | last=Fisher | first=R.A. |authorlink=Рональд Фішер
 | journal= Metron
 | title= On the "probable error" of a coefficient of correlation deduced from a small sample
 | volume=1 | year=1921 | pages=3–32 |mode=cs1 }} {{ref-en}}</ref> та 1922<ref name=Fisher1922>{{citation
 | last=Fisher | first=R.A. |authorlink=Рональд Фішер
 | journal= Philosophical Transactions of the Royal Society A
 | title=On the mathematical foundations of theoretical statistics
 | volume=222 | issue=594–604 | year=1922 | pages=309–368
 | url=http://digital.library.adelaide.edu.au/dspace/handle/2440/15172
 | jstor=91208 | jfm = 48.1280.02 |doi=10.1098/rsta.1922.0009
|mode=cs1 }} {{ref-en}}</ref> року. Праця 1921 року запровадила те, що тепер називають «проміжком правдоподібності». Праця 1922 року запровадила термін «[[метод максимальної правдоподібності]]». Цитуючи Фішера,

{{Цитата|1922 року я запропонував термін «правдоподібність», з огляду на той факт, що по відношенню до [параметра], вона не є ймовірністю, й не підкоряється законам імовірності, в той же час привносячи до задачі раціонального обирання серед можливих значень [параметра] відношення, подібне до того, що ймовірність привносить до задачі передбачування подій в іграх випадку... Проте, в той час як по відношенню до психологічного судження правдоподібність має певну схожість з імовірністю, ці два поняття є цілком різними...{{oq|en|[I]n 1922, I proposed the term ‘likelihood,’ in view of the fact that, with respect to [the parameter], it is not a probability, and does not obey the laws of probability, while at the same time it bears to the problem of rational choice among the possible values of [the parameter] a relation similar to that which probability bears to the problem of predicting events in games of chance....Whereas, however, in relation to psychological judgment, likelihood has some resemblance to probability, the two concepts are wholly distinct....”}}<ref>{{citation |last=Klemens |first=Ben |title=Modeling with Data: Tools and Techniques for Scientific Computing |location= |publisher= [[Princeton University Press]] |year=2008 |page=329 |mode=cs1 }} {{ref-en}}</ref>}}

Поняття правдоподібності не слід плутати з імовірністю, як зазначено сером Рональдом Фішером,

{{Цитата|Я наголошую на цьому, оскільки, незважаючи на наголос, який я завжди робив на відмінності між імовірністю та правдоподібністю, все ще існує тенденція ставитися до правдоподібності так, ніби вона є чимось на кшталт імовірності. Першим результатом відтак є те, що існує дві різні міри раціонального переконання, що відповідають різним випадкам. Знаючи сукупність, ми можемо виражати наше неповне знання або наші неповні очікування про вибірку в термінах імовірності; знаючи вибірку, ми можемо виражати наші неповні знання про сукупність у термінах правдоподібності.{{oq|en|I stress this because in spite of the emphasis that I have always laid upon the difference between probability and likelihood there is still a tendency to treat likelihood as though it were a sort of probability. The first result is thus that there are two different measures of rational belief appropriate to different cases. Knowing the population we can express our incomplete knowledge of, or expectation of, the sample in terms of probability; knowing the sample we can express our incomplete knowledge of the population in terms of likelihood.}}<ref>{{citation
  | last = Fisher | first = Ronald
  | title = Inverse Probability
  | year = 1930
  | journal = Mathematical Proceedings of the Cambridge Philosophical Society
  | volume = 26 | issue = 4
  | pages= 528–535
  | doi = 10.1017/S0305004100016297
  | url = https://www.cambridge.org/core/journals/mathematical-proceedings-of-the-cambridge-philosophical-society/article/inverse-probability/C9AB0A7C4566A3F9FCCEC489CA854814 |mode=cs1 }} {{ref-en}}</ref>}}

Фішерове винайдення статистичної правдоподібності було реакцією на раніший вид міркування, званий {{нп|Обернена ймовірність|оберненою ймовірністю||Inverse probability}}.<ref>{{citation | last1 = Fienberg | first1 = Stephen E | year = 1997 | title = Introduction to R.A. Fisher on inverse probability and likelihood | url = https://projecteuclid.org/euclid.ss/1030037905 | journal = {{нп|Statistical Science}} | volume = 12 | issue = 3| page = 161 | doi = 10.1214/ss/1030037905 |mode=cs1 }} {{ref-en}}</ref> Його застосування терміна «правдоподібність» зафіксувало значення цього терміна в межах математичної статистики.

{{нп|Е. В. Ф. Едвардс|||A. W. F. Edwards}} (1972) заклав аксіоматичну основу для застосування логарифмічного відношення правдоподібностей як міри відносної '''підтри́мки''' ({{lang-en|support}}) однієї гіпотези проти іншої. '''Фу́нкцією підтри́мки''' ({{lang-en|support function}}) в такому разі є натуральний логарифм функції правдоподібності. Обидва терміни застосовують у [[Філогенетика|філогенетиці]], але їх не були прийнято в загальному трактуванні теми статистичних даних.<ref>{{citation |last=Royall |first=R. |year=1997 |title=Statistical Evidence |location= |publisher=[[Chapman & Hall]] |mode=cs1 }} {{ref-en}}</ref>

=== Інтерпретації за різних засад ===

Серед статистиків нема єдиної думки про те, якими повинні бути {{нп|засади статистики|||Foundations of statistics}}. Існує чотири головні парадигми, які було запропоновано як засади: [[частотництво]], [[баєсівство]], [[правдоподібництво]], та [[Інформаційний критерій Акаіке|на основі ІКА]].<ref name="BF11" /> Для кожних із цих запропонованих засад інтерпретація правдоподібності є різною. Ці чотири інтерпретації описано в підрозділах нижче.

==== Частотницька інтерпретація ====
{{Ненаписаний розділ|date=січень 2020}}

==== Баєсова інтерпретація ====

У [[Баєсове висновування|баєсовім висновуванні]], хоча й можливо говорити про правдоподібність будь-якого висловлення чи [[Випадкова змінна|випадкової змінної]] за заданої іншої випадкової змінної, наприклад, про правдоподібність значення параметра чи [[Статистична модель|статистичної моделі]] (див. [[Відособлена правдоподібність|відособлену правдоподібність]]) за заданих даних або іншого свідчення,<ref name="good1950">I. J. Good: ''Probability and the Weighing of Evidence'' (Griffin 1950), §6.1 {{ref-en}}</ref><ref name="jeffreys1983">H. Jeffreys: ''Theory of Probability'' (3rd ed., Oxford University Press 1983), §1.22 {{ref-en}}</ref><ref name="jaynes2003">E. T. Jaynes: ''Probability Theory: The Logic of Science'' (Cambridge University Press 2003),  §4.1 {{ref-en}}</ref><ref name="lindley1980">D. V. Lindley: ''Introduction to Probability and Statistics from a Bayesian Viewpoint. Part 1: Probability'' (Cambridge University Press 1980), §1.6 {{ref-en}}</ref> функція правдоподібності залишається тією ж сутністю з додатковими інтерпретаціями (i) [[Умовна густина ймовірності|умовної густини ймовірності]] даних за заданого параметра (оскільки параметр тоді є випадковою змінною), та (ii) міри кількості інформації, що несуть дані про значення параметра або навіть про модель.<ref name="good1950"/><ref name="jeffreys1983"/><ref name="jaynes2003"/><ref name="lindley1980"/><ref name="gelmanetal2014">A. Gelman, J. B. Carlin, H. S. Stern, D. B. Dunson, A. Vehtari, D. B. Rubin: ''Bayesian Data Analysis'' (3rd ed., Chapman & Hall/CRC 2014), §1.3 {{ref-en}}</ref> Внаслідок введення ймовірнісної структури на просторі параметрів або сукупності моделей є можливим, щоби значення параметра або статистична модель мали велике значення правдоподібності для заданих даних, але в той же час низьку ''ймовірність'', і навпаки.<ref name="jaynes2003"/><ref name="gelmanetal2014"/> Таке часто трапляється в контексті медицини.<ref>{{citation |first=H. C. |last=Sox |first2=M. C. |last2=Higgins |first3=D. K. |last3=Owens |title=Medical Decision Making |edition=2nd |publisher=Wiley |year=2013 |doi=10.1002/9781118341544 |at=chapters 3–4 }} {{ref-en}}</ref> Згідно [[Правило Баєса|правила Баєса]], правдоподібність, коли розглядати її як умовну густину, можливо множини на густину [[Апріорна ймовірність|апріорної ймовірності]] параметра й потім унормовувати, щоби отримувати густину [[Апостеріорна ймовірність|апостеріорної ймовірності]].<ref name="good1950"/><ref name="jeffreys1983"/><ref name="jaynes2003"/><ref name="lindley1980"/><ref name="gelmanetal2014"/> Загальніше, правдоподібність невідомої величини <math>X</math> за заданої іншої невідомої величини <math>Y</math> є пропорційною до ''ймовірності <math>Y</math> за заданої <math>X</math>''.<ref name="good1950"/><ref name="jeffreys1983"/><ref name="jaynes2003"/><ref name="lindley1980"/><ref name="gelmanetal2014"/>

==== Правдоподібницька інтерпретація ====
{{Недостатньо виносок|дата=січень 2020}}

У частотницькій статистиці функція правдоподібності сама по собі є [[Статистика (математика)|статистикою]], яка узагальнює окремий зразок із сукупності, й чиє обчислюване значення залежить від вибору декількох параметрів ''&theta;''<sub>1</sub>... ''&theta;''<sub>p</sub>, де ''p'' є кількістю параметрів у якійсь вже обраній [[Статистична модель|статистичній моделі]]. Значення правдоподібності слугує критерієм якості для вибору, зробленого для параметрів, і набір параметрів з максимальною правдоподібністю є найкращим вибором за доступних даних.

Конкретним розрахунком правдоподібності є ймовірність того, що буде призначено саме спостережуваний зразок, за припущення, що обрана модель та значення цих декількох параметрів '''''&theta;''''' дають точне наближення [[Частотний розподіл|частотного розподілу]] [[Генеральна сукупність|сукупності]], з якої було витягнуто цей спостережуваний зразок. Евристично має сенс, що добрим вибором параметрів є той, який видає для фактично спостережуваного зразка максимально можливу апостеріорну ({{lang-la|post-hoc}}) ймовірність трапляння. [[Теорема Уїлкса]] визначає це евристичне правило кількісно, показуючи, що різниця між логарифмом правдоподібності, породженим значеннями параметрів оцінки, та логарифмом правдоподібності, породженим «істинними» (але невідомими) значеннями параметрів сукупності, має [[Розподіл хі-квадрат|розподіл &chi;²]].

Оцінка максимальною правдоподібністю кожного незалежного зразка є окремою оцінкою «істинного» набору параметрів, що описує сукупність, з якої роблять вибірку. Послідовні оцінки від багатьох незалежних зразків гуртуватимуться разом з «істинним» набором значень параметрів сукупності, прихованим десь поміж них. Різницю між логарифмами максимальної правдоподібності та правдоподібностей суміжних наборів параметрів можна використовувати для малювання {{нп|Довірча область|довірчої області||Confidence region}} на графіку, чиїми координатами є параметри ''&theta;''<sub>1</sub>... ''&theta;''<sub>p</sub>. Ця область оточує оцінку максимальною правдоподібністю, і всі точки (набори параметрів) всередині цієї області відрізняються в логарифмічній правдоподібності щонайбільше на якесь встановлене значення. [[Розподіл хі-квадрат|Розподіл &chi;²]], заданий [[Теорема Уїлкса|теоремою Уїлкса]], перетворює різниці логарифмічних правдоподібностей цієї області у «рівень довіри» до того, що «істинний» набір параметрів сукупності лежить всередині. Мистецтво обирання цієї встановленої різниці логарифмічних правдоподібностей полягає в тім, щоби робити рівень довіри прийнятно високим, в той же час тримаючи область прийнятно малою (вузька область оцінок).

В процесі спостерігання додаткових даних, замість використовувати їх для здійснення незалежних оцінок, їх можливо поєднувати з попередніми зразками в єдину об'єднану вибірку, і цю велику вибірку можливо використовувати для нової оцінки максимальною правдоподібністю. Зі збільшенням розміру цієї об'єднаної вибірки розмір області правдоподібності з таким же рівнем довіри скорочується. Врешті-решт, або розмір довірчої області стане майже єдиною точкою, або буде вибрано всю сукупність. В обох випадках, оцінений набір параметрів буде по суті таким же, як і набір параметрів сукупності.

==== Інтерпретація на основі ІКА ====
{{expand section|date=січень 2020}}

У парадигмі [[Інформаційний критерій Акаіке|ІКА]] правдоподібність інтерпретують у контексті [[Теорія інформації|теорії інформації]].<ref>{{Citation | first=H. |last=Akaike |authorlink=Хіроцуґу Акаіке | contribution = Prediction and entropy | pages=1–24 | title= A Celebration of Statistics | editor1-first= A. C. | editor1-last= Atkinson | editor2-first= S. E. | editor2-last= Fienberg | editor2-link= Стівен Фейнберг | year = 1985 | publisher= Springer |mode=cs1 }} {{ref-en}}</ref><ref>{{Citation | author1-first= Y. | author1-last= Sakamoto | author2-first= M. | author2-last= Ishiguro | author3-first= G. | author3-last= Kitagawa | title= Akaike Information Criterion Statistics | year= 1986  | publisher= {{нп|D. Reidel}} | at= Part&nbsp;I |mode=cs1 }} {{ref-en}}</ref><ref>{{Citation |last=Burnham |first=K. P. |last2=Anderson |first2=D. R. |year=2002 |title=Model Selection and Multimodel Inference: A practical information-theoretic approach |edition=2nd |publisher= [[Springer-Verlag]] | at= chap.&nbsp;7 |mode=cs1 }} {{ref-en}}</ref>

== Див. також ==
* [[Коефіцієнт Баєса]]
* [[Умовна ентропія]]
* [[Умовна ймовірність]]
* {{нп|Емпірична правдоподібність|||Empirical likelihood}}
* [[Принцип правдоподібності]]
* [[Перевірка відношенням правдоподібностей]]
* [[Правдоподібницька статистика]]
* [[Метод максимальної правдоподібності|Максимальна правдоподібність]]
* {{нп|Принцип максимальної ентропії|||Principle of maximum entropy}}
* {{нп|Псевдоправдоподібність|||Pseudolikelihood}}
* [[Функція внеску]]

== Зауваження ==
{{notelist}}

== Примітки ==
{{примітки}}

== Література ==

* {{citation |first=Adelchi |last=Azzalini |chapter=Likelihood |title=Statistical Inference Based on the Likelihood |location= |publisher=Chapman and Hall |year=1996 |isbn=0-412-60650-X |pages=17–50 |mode=cs1 }} {{ref-en}}
* {{citation |first=Dennis D. |last=Boos |first2=L. A. |last2=Stefanski |chapter=Likelihood Construction and Estimation |title=Essential Statistical Inference : Theory and Methods |location=New York |publisher=Springer |year=2013 |isbn=978-1-4614-4817-4 |pages=27–124 |doi=10.1007/978-1-4614-4818-1_2 |mode=cs1 }} {{ref-en}}
* {{citation |last=Edwards |first=A. W. F. |authorlink=Е. В. Ф. Едвардс |orig-year=1972 |title=Likelihood |publisher={{нп|Johns Hopkins University Press}} |isbn=0-8018-4443-6 |edition=Expanded |year=1992 |mode=cs1 }} {{ref-en}}
* {{citation |last=King |first=Gary |authorlink=Ґері Кінг (політичний науковець) |chapter=The Likelihood Model of Inference |title=Unifying Political Methodology : the Likehood Theory of Statistical Inference |location= |publisher=Cambridge University Press |year=1989 |isbn=0-521-36697-6 |pages=59–94 |mode=cs1 |chapterurl=https://books.google.com/books?id=cligOwrd7XoC&pg=PA59 }} {{ref-en}}
* {{citation |last=Lindsey |first=J. K. |chapter=Likelihood |title=Parametric Statistical Inference |location= |publisher=Oxford University Press |year=1996 |isbn=0-19-852359-9 |pages=[https://archive.org/details/parametricstatis0000lind/page/69 69–139] |chapterurl=https://books.google.com/books?id=YnsQ-NnMxJ8C&pg=PA69 |mode=cs1 |url=https://archive.org/details/parametricstatis0000lind/page/69 }} {{ref-en}}
* {{citation |last=Rohde |first=Charles A. |title=Introductory Statistical Inference with the Likelihood Function |location=Berlin |publisher=Springer |year=2014 |isbn=978-3-319-10460-7 |mode=cs1 }} {{ref-en}}
* {{citation |last=Royall |first=Richard |title=Statistical Evidence : A Likelihood Paradigm |location=London |publisher=Chapman & Hall |year=1997 |isbn=0-412-04411-0 |mode=cs1 |url-access=registration |url=https://archive.org/details/statisticalevide0000roya }} {{ref-en}}
* {{citation |first=Michael D. |last=Ward |authorlink=Майкл Д. Вард |first2=John S. |last2=Ahlquist |chapter=The Likelihood Function: A Deeper Dive |title=Maximum Likelihood for Social Science : Strategies for Analysis |publisher= [[Cambridge University Press]] |year=2018 |isbn=978-1-316-63682-4 |pages=21–28 |mode=cs1 |chapterurl=https://books.google.com/books?id=iqRyDwAAQBAJ&pg=PA21 }} {{ref-en}}

== Посилання ==
* [http://planetmath.org/likelihoodfunction Функція правдоподібності на Planetmath] {{ref-en}}

{{Перекласти|en|дата=серпень 2022}}


{{Статистика|висновування}}
{{Портали|Математика}}

[[Категорія:Правдоподібність| ]]
[[Категорія:Баєсова статистика]]