Теорема Рао — Блеквела

Теорема Рао — Блеквела — твердження в математичній статистиці на основі якого можна покращувати статистичні оцінки параметрів.

Нехай $X_1,\dots ,X_n$ послідовність незалежних однаково розподілених випадкових величин з розподілом, що залежить від деякого невідомого параметра $\theta \in \mathrm{\Theta }.$ Нехай $\delta (X)$ — деяка статистична оцінка цього невідомого параметра зі скінченною матрицею других моментів, а $T=\mathrm{T}(X)$ — достатня статистика для параметра $\theta .$ Тоді існує ${\delta }_1(X)=\text{E}[\delta (X)|T(X)]$ і крім того ${\delta }_1(X)$ є найкращою оцінкою параметра в сенсі середньоквадратичного відхилення, тобто для будь-якого вектора z необхідної розмірності виконується нерівність:

$z\text{E}[({\delta }_1(X)-\theta {)}^T({\delta }_1(X)-\theta )]z^T⩽z\text{E}[(\delta (X)-\theta {)}^T(\delta (X)-\theta )]z^T.$

Рівність виконується лише коли $\delta$ є вимірною функцією від T.

Доведення

Доведення для випадку коли параметр є одним числом тобто його розмірність рівна одиниці. Тоді

$\mathrm{E}[{\delta }_1(X)-\theta {]}^2=\mathrm{E}{[\text{E}(\delta (X)|T(X))-\theta ]}^2=\mathrm{E}{[\text{E}(\delta (X)-\theta |T(X))]}^2⩽\mathrm{E}[\text{E}((\delta (X)-\theta {)}^2|T(X))]=\mathrm{E}(\delta (X)-\theta {)}^2.$

Нерівність випливає з того, що для будь-якої випадкової величини W, $\mathrm{var}W=\mathrm{E}{W}^2-(\mathrm{E}W{)}^2]⩾0,$ якщо взяти $W=\text{E}(\delta (X)-\theta |T(X)).$ Звідси також бачимо, що рівність виконується лише коли $\mathrm{var}W=0,$ тобто коли $\delta (X)-\theta$ приймає одне значення для кожного значення T, тобто $\delta (X)$ є функцією від T.

Див. також

• Достатня статистика
• Статистична оцінка

Джерела

• Шаблон:Карташов.Імовірність процеси статистика
• Шаблон:Гнеденко.Курс теории вероятностей
• Шаблон:Гіхман.Скороход.Ядренко
• Lehmann, E. L.; Casella, G. (1998). Theory of Point Estimation (2nd ed.). Springer. Chapter 4. ISBN 0-387-98502-6.