Перегляд вихідного коду сторінки Функція внеску

У [[Статистика|статистиці]] '''вне́сок''', '''фу́нкція вне́ску''', або '''ефекти́вний вне́сок''' ({{lang-en|score, score function, efficient score,{{sfn|Cox|Hinkley|1974|p=107}} informant{{sfn|Chentsov|2001}}}}) показує, наскільки чутливо [[функція правдоподібності]] <math>L(\theta; X)</math> залежить від свого {{нп|Параметрична модель|параметру||Parametric model}} <math>\theta</math>. В явному вигляді внесок <math>\theta</math> є [[градієнт]]ом [[Логарифмічна правдоподібність|логарифмічної правдоподібності]] по відношенню до <math>\theta</math>.

Внесок відіграє важливу роль у деяких аспектах [[Статистичне висновування|висновування]]. Наприклад:

* у формулюванні локально найпотужнішого [[Статистичний критерій|статистичного критерію]];{{sfn|Cox|Hinkley|1974|p=113}}
* у наближенні похибки в оцінці [[Метод максимальної правдоподібності|максимальної правдоподібності]];{{sfn|Cox|Hinkley|1974|p=295}}
* у показуванні асимптотичної достатності оцінки [[Метод максимальної правдоподібності|максимальної правдоподібності]];{{sfn|Cox|Hinkley|1974|p=295}}
* у формулюванні [[Довірчий інтервал|довірчих інтервалів]];{{sfn|Cox|Hinkley|1974|p=222–3}}
* у показуваннях [[Нерівність Крамера — Рао|нерівності Крамера — Рао]].{{sfn|Cox|Hinkley|1974|p=254}}

Функція внеску також відіграє важливу роль в {{нп|Обчислювальна статистика|обчислювальній статистиці||Computational statistics}}, оскільки вона може грати певну роль в обчисленні оцінок максимальної правдоподібності.

== Визначення ==

Функція внеску, або ефективний внесок,{{sfn|Cox|Hinkley|1974|p=107}}&nbsp;— це [[градієнт]] (вектор [[Часткова похідна|часткових похідних]]) по відношенню до деякого параметру <math>\theta</math> [[логарифм]]у (зазвичай, [[Натуральний логарифм|натурального логарифму]]) [[Функція правдоподібності|функції правдоподібності]] (логарифмічної правдоподібності). Якщо спостереженням є <math>X</math>, а його правдоподібністю є <math>L(\theta;X)</math>, то внесок <math>V</math> може бути знайдено за допомогою [[Ланцюгове правило|ланцюгового правила]]:

: <math>
V \equiv V(\theta, X)
=
\frac{\partial}{\partial\theta} \log L(\theta;X)
=
\frac{1}{L(\theta;X)} \frac{\partial L(\theta;X)}{\partial\theta}.
</math>

Таким чином, внесок <math>V</math> показує [[Аналіз чутливості|чутливість]] <math>L(\theta;X)</math> (її похідну, нормалізовану за її значенням). Зауважте, що <math>V</math> є функцією від <math>\theta</math> та спостереження <math>X</math>, отже, взагалі кажучи, він не є [[Статистика (математика)|статистикою]]. Проте в деяких застосуваннях, таких як {{нп|перевірка внеску|||Score test}}, внесок оцінюється на певному значення <math>\theta</math> (такому як значення [[Нульова гіпотеза|нульової гіпотези]], або оцінка максимальної правдоподібності <math>\theta</math>), і в такому випадку результатом є статистика.

У старій літературі для позначення внеску по відношенню до нескінченно малого перенесення заданої густини може застосовуватися термін «лінійний внесок» ({{lang-en|linear score}}). Цей звичай походить з того часу, коли основним параметром, що становив інтерес, було середнє значення або медіана розподілу. В цьому випадку правдоподібність спостереження задається густиною вигляду <math>L(\theta;X)=f(X+\theta)</math>. Тоді «лінійний внесок» визначається як

: <math>
V_{\rm linear}
=
\frac{\partial}{\partial X} \log f(X)
</math>

== Властивості ==

=== Середнє значення ===

За деяких умов {{нп|Статистична закономірність|закономірності||Statistical regularity}}, [[математичне сподівання]] <math>V</math> по відношенню до спостереження <math>x</math> за умови істинності параметру <math>\theta</math>, що записується як <math>\mathbb{E}(V\mid\theta)</math>, є нульовим. Щоби побачити це, перепишімо функцію правдоподібності ''L'' як [[Функція густини ймовірності|функцію густини ймовірності]] <math>L(\theta; x) = f(x; \theta)</math>. Тоді

: <math>
\begin{align}
\mathbb{E}(V\mid\theta)
& =\int_{-\infty}^{+\infty}
f(x; \theta) \frac{\partial}{\partial\theta} \log L(\theta;X)
\,dx
=\int_{-\infty}^{+\infty}
 \frac{\partial}{\partial\theta} \log L(\theta;X) f(x; \theta) \, dx \\[6pt]
& = \int_{-\infty}^{+\infty}
\frac{1}{f(x; \theta)}\frac{\partial f(x; \theta)}{\partial \theta}f(x; \theta)\, dx
=\int_{-\infty}^{+\infty} \frac{\partial f(x; \theta)}{\partial \theta} \, dx
\end{align}
</math>

Якщо дотримуються певні умови диференційовності (див. [[Формула Лейбніца]]), то цей [[інтеграл]] може бути переписано як

: <math>
\frac{\partial}{\partial\theta} \int_{-\infty}^{+\infty}
 f(x; \theta) \, dx
=
\frac{\partial}{\partial\theta}1 = 0.
</math>

Варто перевикласти отриманий вище результат словами: математичне сподівання внеску є нульовим. Таким чином, якщо потрібно було повторювано брати проби з деякого розподілу, і повторювано обчислювати внесок, то при наближенні числа повторюваних проб до нескінченності середнє значення цих внесків прямуватиме до нуля.

=== Дисперсія ===
{{Main|Інформація за Фішером}}

[[Дисперсія випадкової величини|Дисперсія]] внеску відома як [[інформація за Фішером]], і записується як <math>\mathcal{I}(\theta)</math>. Оскільки математичне сподівання внеску є нульовим, її може бути записано як

: <math>
\mathcal{I}(\theta)
=
\mathbb{E}
\left\{\left.
 \left[
  \frac{\partial}{\partial\theta} \log L(\theta;X)
 \right]^2
\right|\theta\right\}.
</math>

Зауважте, що визначена таким чином інформація за Фішером не є функцією будь-якого конкретного спостереження, оскільки випадкову змінну <math>X</math> було усереднено. Це поняття інформації є корисним при порівнянні двох методів спостереження деякого [[Випадковий процес|випадкового процесу]].

== Приклади ==

=== Процес Бернуллі ===

Розгляньмо {{нп|процес Бернуллі|||Bernoulli process}} з ''A'' успіхами та ''B'' невдачами; ймовірністю успіху є ''θ''.

Тоді правдоподібністю ''L'' є

: <math>
L(\theta;A,B)=\frac{(A+B)!}{A!B!}\theta^A(1-\theta)^B,</math>

таким чином, внеском ''V'' є

: <math>
V=\frac{1}{L}\frac{\partial L}{\partial\theta} = \frac{A}{\theta}-\frac{B}{1-\theta}.
</math>

Тепер ми можемо перевірити, що математичне сподівання внеску є нульовим. Зауважуючи, що математичним сподіванням ''A'' є ''n''θ, а математичним сподіванням ''B'' є ''n''(1&nbsp;&minus;&nbsp;θ) [пригадаймо, що ''A'' та ''B'' є випадковими змінними], ми можемо побачити, що математичним сподіванням ''V'' є

: <math>
E(V)
= \frac{n\theta}{\theta} - \frac{n(1-\theta)}{1-\theta}
= n - n 
= 0.
</math>

Ми можемо також перевірити й дисперсію <math>V</math>. Нам відомо, що ''A'' + ''B'' = ''n'' (таким чином, ''B'' =&nbsp;''n''&nbsp;&minus;&nbsp;''A''), і що дисперсією ''A'' є ''n''θ(1&nbsp;&minus;&nbsp;θ), таким чином, дисперсією ''V'' є

: <math>
\begin{align}
\operatorname{var}(V) & =\operatorname{var}\left(\frac{A}{\theta}-\frac{n-A}{1-\theta}\right)
=\operatorname{var}\left(A\left(\frac{1}{\theta}+\frac{1}{1-\theta}\right)\right) \\
& =\left(\frac{1}{\theta}+\frac{1}{1-\theta}\right)^2\operatorname{var}(A)
=\frac{n}{\theta(1-\theta)}.
\end{align}
</math>

=== Модель із двійковим виходом ===

Для [[Схема Бернуллі|моделей з двійковими виходами]] (''Y'' = 1 або 0) внесок моделі може оцінюватися за допомогою логарифму передбачень

: <math> S = Y \log( p ) + ( 1 - Y ) ( \log( 1 - p ) ) </math>

де ''p'' є ймовірністю в оцінюваній моделі, а ''S'' є внеском.{{sfn|Steyerberg|Vickers|Cook|Gerds|2010}}

== Застосування ==

=== Внесковий алгоритм ===
{{Докладніше1|{{нп|Внесковий алгоритм|||Scoring algorithm}}}}

Внесковий алгоритм ({{lang-en|scoring algorithm}})&nbsp;— це ітеративний метод [[Чисельні методи|чисельного]] визначення [[Статистична оцінка|статистичної оцінки]] [[Максимальна правдоподібність|максимальної правдоподібності]].

=== Перевірка внеску ===
{{Докладніше1|{{нп|Перевірка внеску|||Score test}}}}
{{Розширити розділ|дата=травень 2016}}

== Див. також ==

* [[Інформація за Фішером]]
* [[Теорія інформації]]
* {{нп|Перевірка внеску|||Score test}}
* {{нп|Внесковий алгоритм|||Scoring algorithm}}
* {{нп|Крива підтримки|||Support curve}}<!-- Проблема вікіфікації: Сторінка [[:en:Support curve]] (→ [[:en:Likelihood function#Graph]]) перекладена як [[Функція правдоподібності]], хоча хотіли [[Крива підтримки]] (SashkoR0B0T)-->

== Примітки ==

{{Примітки}}

== Література ==

* {{cite book |last=Cox |first=D. R. |last2=Hinkley |first2=D. V. |year=1974 |title=Theoretical Statistics |url=https://archive.org/details/theoreticalstati0000coxd |location= |publisher=Chapman & Hall |isbn=0-412-12420-3 |ref=harv}} {{ref-en}}
*{{cite book
| last = Schervish
| first = Mark J.
| title = Theory of Statistics
| publisher =Springer
| date =1995
| location =New York
| pages = Section 2.3.1
| isbn = 0-387-94546-6
| nopp = true}} {{ref-en}}
* {{SpringerEOM| title=Informant |id=i/i051030 |first=N.N. |last=Chentsov}} {{ref-en}}
* {{cite journal |last=Steyerberg |first=E. W. |last2=Vickers |first2=A. J. |last3=Cook |first3=N. R. |last4=Gerds |first4=T. |last5=Gonen |first5=M. |last6=Obuchowski |first6=N. |last7=Pencina |first7=M. J. |last8=Kattan |first8=M. W. |year=2010 |title=Assessing the performance of prediction models. A framework for traditional and novel measures |journal=[[Epidemiology (journal)|Epidemiology]] |volume=21 |issue=1 |pages=128–138 |doi=10.1097/EDE.0b013e3181c30fb2 |ref=harv}} {{ref-en}}

[[Категорія:Правдоподібність]]