Дельта-метод

Дельта-метод (Шаблон:Lang-en) у статистиці — твердження щодо наближеного ймовірнісного розподілу функції асимптотично нормальної статистичної оцінки за відомої граничної варіації цієї оцінки. 

Одновимірний дельта-метод

У той час, як метод дельта легко узагальнюється до багатовимірного випадку, точне обґрунтування цієї методики легше продемонструвати в одновимірних умовах. Грубо кажучи, якщо є послідовність випадкових величин $X_n$, що задовольняють

$\sqrt{n}[X_n-\theta ]\stackrel{D}{\to }𝒩(0,{\sigma }^2),$

де $\theta$ та ${\sigma }^2$ — скінченні константи і $\stackrel{D}{\to }$ позначає збіжність за розподілом, тоді

$\sqrt{n}[g(X_n)-g(\theta )]\stackrel{D}{\to }𝒩(0,{\sigma }^2[g^{\prime }(\theta ){]}^2)$

для довільної функції g, яка задовольняє властивість: $\mathrm{\exists }{g}^{\prime }(\theta )\ne 0$ (існує і не дорівнює нулю).

Доведення одновимірного випадку

Доведення твердження досить просте у випадку неперервної похідної $g^{\prime }(\theta )$. Для початку скористаємось теоремою Лагранжа про середнє:

$g(X_n)=g(\theta )+g^{\prime }(\tilde{\theta })(X_n-\theta ),$

де $\tilde{\theta }$ знаходиться між Шаблон:Mvar та $\theta$. Зауважте, що оскільки $X_n\stackrel{P}{\to }\theta$ та $X_n<\tilde{\theta }<\theta$, то відповідно маємо $\tilde{\theta }\stackrel{P}{\to }\theta$ і оскільки $g^{\prime }(\theta )$ неперервна, то, застосовуючи теорему про неперервне відображення, маємо

$g^{\prime }(\tilde{\theta })\stackrel{P}{\to }{g}^{\prime }(\theta ),$

де $\stackrel{P}{\to }$ позначає збіжність за розподілом.

Після тривіальних перетворень і множення на  $\sqrt{n}$ маємо

$\sqrt{n}[g(X_n)-g(\theta )]=g^{\prime }\left(\tilde{\theta }\right)\sqrt{n}[X_n-\theta ].$

Оскільки

$\sqrt{n}[X_n-\theta ]\stackrel{D}{\to }𝒩(0,{\sigma }^2)$

за припущенням і використовуючи теорему Слуцького випливає

$\sqrt{n}[g(X_n)-g(\theta )]\stackrel{D}{\to }𝒩(0,{\sigma }^2[g^{\prime }(\theta ){]}^2).$

Що й треба було показати.

Доведення з явним використанням О-символіки

Альтернативно, можна було б додати ще один крок в кінці для отримання порядкового наближення:

$\begin{array}{cc}\sqrt{n}[g(X_n)-g(\theta )]& =g^{\prime }\left(\tilde{\theta }\right)\sqrt{n}[X_n-\theta ]=\sqrt{n}[X_n-\theta ][g^{\prime }(\tilde{\theta })+g^{\prime }(\theta )-g^{\prime }(\theta )]\\ & =\sqrt{n}[X_n-\theta ][g^{\prime }(\theta )]+\sqrt{n}[X_n-\theta ][g^{\prime }(\tilde{\theta })-g^{\prime }(\theta )]\\ & =\sqrt{n}[X_n-\theta ][g^{\prime }(\theta )]+O_p(1)\cdot o_p(1)\\ & =\sqrt{n}[X_n-\theta ][g^{\prime }(\theta )]+o_p(1)\end{array}$

Що показує прямування наближення за ймовірністю до нуля.

Багатовимірний дельта-метод

За означенням, конзистентна оцінка B збігається за ймовірністю до її справжнього значення β, і, застосовуючи центральну граничну теорему, можна отримати асимптотичну нормальність:

$\sqrt{n}(B-\beta )\stackrel{D}{\to }N(0,\mathrm{\Sigma }),$

де n — число спостережень і Σ — матриця коваріації (симетрична позитивно напів-визначена). Нехай треба оцінити варіацію функції h оцінки B. Беручи до уваги тільки два перші члени розкладу Тейлора, з використанням векторного позначення градієнта, можемо оцінити h(B) як

$h(B)\approx h(\beta )+\mathrm{\nabla }h(\beta {)}^T\cdot (B-\beta )$

звідки випливає, що варіація h(B) наближено дорівнює

$\begin{array}{cc}\mathrm{Var}(h(B))& \approx \mathrm{Var}(h(\beta )+\mathrm{\nabla }h(\beta {)}^T\cdot (B-\beta ))\\ & =\mathrm{Var}(h(\beta )+\mathrm{\nabla }h(\beta {)}^T\cdot B-\mathrm{\nabla }h(\beta {)}^T\cdot \beta )\\ & =\mathrm{Var}(\mathrm{\nabla }h(\beta {)}^T\cdot B)\\ & =\mathrm{\nabla }h(\beta {)}^T\cdot \mathrm{Cov}(B)\cdot \mathrm{\nabla }h(\beta )\\ & =\mathrm{\nabla }h(\beta {)}^T\cdot (\mathrm{\Sigma }/n)\cdot \mathrm{\nabla }h(\beta )\end{array}$

Застосовуючи теорему Лагранжа про середнє (для дійснозначних функцій багатьох змінних), можна переконатись, що доведення не спирається на той факт, що враховуються тільки наближення першого порядку.

Отже, з дельта-методу випливає

$\sqrt{n}(h(B)-h(\beta ))\stackrel{D}{\to }N(0,\mathrm{\nabla }h(\beta {)}^T\cdot \mathrm{\Sigma }\cdot \mathrm{\nabla }h(\beta ))$

чи в одновимірному випадку,

$\sqrt{n}(h(B)-h(\beta ))\stackrel{D}{\to }N(0,{\sigma }^2\cdot {(h^{\prime }(\beta ))}^2).$

Джерела

• Casella, G. and Berger, R. L. (2002), Statistical Inference, 2nd ed.
• Cramér, H. (1946), Mathematical Methods of Statistics, p. 353.
• Davison, A. C. (2003), Statistical Models, pp. 33-35.
• Greene, W. H. (2003), Econometric Analysis, 5th ed., pp. 913f.
• Klein, L. R. (1953), A Textbook of Econometrics, p. 258.

Посилання

• Oehlert, G. W. (1992), A Note on the Delta Method, The American Statistician, Vol. 46, No. 1, p. 27-29. http://www.jstor.org/stable/2684406 Шаблон:Webarchive
• Lecture notes Шаблон:Webarchive
• More lecture notes
• Explanation from Stata software corporation Шаблон:Webarchive