Правило повного математичного сподівання

В теорії ймовірностей твердження відоме як закон повного математичного сподівання, закон повторних сподівань, правило вежі, закон Адама чи теорема згладжування стверджує, що якщо $X$ — випадкова величина, з визначеним матсподіванням $\mathrm{E}(X)$, а $Y$ — довільна випадкова величина на тому ймовірнісному просторі.

$\mathrm{E}(X)=\mathrm{E}(\mathrm{E}(X\mid Y)),$

тобто значення сподівання умовного матсподівання значення $X$ для певного $Y$ дорівнює матсподіванню $X$.

У спеціальному випадку, для ${\left\{A_i\right\}}_i$ - скінченного або зліченного розбиття простору елементарних подій, тоді

$\mathrm{E}(X)=\sum _i\mathrm{E}(X\mid A_i)\mathrm{P}(A_i).$

Приклад

Припустимо, що дві фабрики постачають на ринок лампочки. Лампочки із заводу $X$ працюють в середньому 5000 годин, тоді як лампи заводу $Y$ працюють в середньому впродовж 4000 годин. Відомо, що фабрика $X$ постачає 60% від загальної кількості наявних ламп. Яка очікувана тривалість часу роботи придбаної лампочки?

Застосовуючи закон повного матсподівання отримаємо:

$\mathrm{E}(L)=\mathrm{E}(L\mid X)\mathrm{P}(X)+\mathrm{E}(L\mid Y)\mathrm{P}(Y)=5000(0.6)+4000(0.4)=4600$

де

• $\mathrm{E}(L)$ — тривалість роботи лампочки;
• $\mathrm{P}(X)=\frac{6}{10}$ — ймовірність, що куплена лампочка виготовлена на заводі X;
• $\mathrm{P}(Y)=\frac{4}{10}$ — ймовірність, що куплена лампочка виготовлена на заводі Y;
• $\mathrm{E}(L\mid X)=5000$ — очікувана тривалість роботи лампочки виготовленої на заводі X;
• $\mathrm{E}(L\mid Y)=4000$ — очікувана тривалість роботи лампочки виготовленої на заводі Y.

Отже, очікувана тривалість роботи кожної придбаної лампочки дорівнює 4600 годин.

Доведення для скінченних і зліченних випадків

Нехай випадкові величини $X$ та $Y$ визначені на одному ймовірнісному просторі, припустимо скінченну чи зліченну множину скінченних значень. Припустимо що $\mathrm{E}[X]$ визначена, тобто $\min (\mathrm{E}[X_{+}],\mathrm{E}[X_{-}])<\mathrm{\infty }$. Якщо $\{A_i\}$ — подрібнення ймовірнісного простору $\mathrm{\Omega }$, то

$\mathrm{E}(X)=\sum _i\mathrm{E}(X\mid A_i)\mathrm{P}(A_i).$

Доведення

$\begin{array}{cc}\mathrm{E}(\mathrm{E}(X\mid Y))& =\mathrm{E}[\sum _{x}x\cdot \mathrm{P}(X=x\mid Y)]\\ & =\sum _y[\sum _{x}x\cdot \mathrm{P}(X=x\mid Y=y)]\cdot \mathrm{P}(Y=y)\\ & =\sum _y\sum _{x}x\cdot \mathrm{P}(X=x,Y=y).\end{array}$

Якщо ряд скінченний, то можемо змінити порядок сумування й попередній вираз запишеться

$\begin{array}{cc}\sum _x\sum _{y}x\cdot \mathrm{P}(X=x,Y=y)& =\sum _{x}x\sum _y\mathrm{P}(X=x,Y=y)\\ & =\sum _{x}x\cdot \mathrm{P}(X=x)\\ & =\mathrm{E}(X).\end{array}$

Якщо ж, з іншого боку, ряд нескінченний, то його збіжність не може бути умовною через припущення, що $\min (\mathrm{E}[X_{+}],\mathrm{E}[X_{-}])<\mathrm{\infty }.$ Ряд збіжний абсолютно якщо обидвоє, $\mathrm{E}[X_{+}]$ і $\mathrm{E}[X_{-}]$ - скінченні і розбіжний до нескінченності, якщо чи $\mathrm{E}[X_{+}]$чи $\mathrm{E}[X_{-}]$ — нескінченне. В обидвох випадках порядок сумування можна змінити не змінюючи суми.

Доведення у загальному випадку

Нехай $(\mathrm{\Omega },ℱ,\mathrm{P})$ — ймовірнісний простір, з визначеними на ньому σ-алгебрами ${𝒢}_1\subseteq {𝒢}_2\subseteq ℱ$. Для випадкової величини $X$ на такому просторі, закон згладжування стверджує, що якщо $\mathrm{E}[X]$ - визначене, тобто $\min (\mathrm{E}[X_{+}],\mathrm{E}[X_{-}])<\mathrm{\infty }$, тоді

$\mathrm{E}[\mathrm{E}[X\mid {𝒢}_2]\mid {𝒢}_1]=\mathrm{E}[X\mid {𝒢}_1]\text{(майже напевно)}.$

Доведення. Завдяки тому, що умовне матсподівання це похідна Радона – Нікодима, доведення закону згладжування зводиться до перевірки таких двох властивостей:

• $\mathrm{E}[\mathrm{E}[X\mid {𝒢}_2]\mid {𝒢}_1]$ є ${𝒢}_1$-вимірною
• $\underset{G_1}{\int }\mathrm{E}[\mathrm{E}[X\mid {𝒢}_2]\mid {𝒢}_1]d\mathrm{P}=\underset{G_1}{\int }Xd\mathrm{P},$ для всіх $G_1\in {𝒢}_1.$

Перша з цих властивостей випливає з означення умовного матсподівання. Для доведення другого,

$\begin{array}{cc}\min (\underset{G_1}{\int }{X}_{+}d\mathrm{P},\underset{G_1}{\int }{X}_{-}d\mathrm{P})& \le \min (\underset{\mathrm{\Omega }}{\int }{X}_{+}d\mathrm{P},\underset{\mathrm{\Omega }}{\int }{X}_{-}d\mathrm{P})\\ & =\min (\mathrm{E}[X_{+}],\mathrm{E}[X_{-}])<\mathrm{\infty },\end{array}$

отже інтеграл $\underset{G_1}{\int }Xd\mathrm{P}$ визначений (не дорівнює $\pm \mathrm{\infty }$).

Друга властивість правильна, бо з $G_1\in {𝒢}_1\subseteq {𝒢}_2$ випливає

$\underset{G_1}{\int }\mathrm{E}[\mathrm{E}[X\mid {𝒢}_2]\mid {𝒢}_1]d\mathrm{P}=\underset{G_1}{\int }\mathrm{E}[X\mid {𝒢}_2]d\mathrm{P}=\underset{G_1}{\int }Xd\mathrm{P}.$

Висновок. В особливому випадку, коли ${𝒢}_1=\{\mathrm{\varnothing },\mathrm{\Omega }\}$ і ${𝒢}_2=\sigma (Y)$, закон згладжування зводиться до

$\mathrm{E}[\mathrm{E}[X\mid Y]]=\mathrm{E}[X].$

Доведення формули розбиття

$\begin{array}{cc}\sum _i\mathrm{E}(X\mid A_i)\mathrm{P}(A_i)& =\sum _i\underset{\mathrm{\Omega }}{\int }X(\omega )\mathrm{P}(d\omega \mid A_i)\cdot \mathrm{P}(A_i)\\ & =\sum _i\underset{\mathrm{\Omega }}{\int }X(\omega )\mathrm{P}(d\omega \cap A_i)\\ & =\sum _i\underset{\mathrm{\Omega }}{\int }X(\omega )I_{A_i}(\omega )\mathrm{P}(d\omega )\\ & =\sum _i\mathrm{E}(X{I}_{A_i}),\end{array}$

де $I_{A_i}$ - характеристична функція множини $A_i$.

Якщо розбиття ${\{A_i\}}_{i=0}^n$ - скінченне, то, за властивістю лінійності, попередній вираз записується у вигляді

$\mathrm{E}\left(\sum _{i=0}^{n}X{I}_{A_i}\right)=\mathrm{E}(X),$

що й треба було показати.

Якщо ж розбиття ${\{A_i\}}_{i=0}^{\mathrm{\infty }}$ - нескінченне, то застосовуючи теорему про мажоровану збіжність можемо показати

$\mathrm{E}\left(\sum _{i=0}^{n}X{I}_{A_i}\right)\to \mathrm{E}(X).$

Справді, для кожного $n\ge 0$,

$\left|\sum _{i=0}^{n}X{I}_{A_i}\right|\le |X|I_{\bigcup \underset{i=0}{\overset{n}{\mathrm{\backslash limits}}}{A}_i}\le |X|.$

Позаяк кожен елемент множини $\mathrm{\Omega }$ належить певному елементу подрібнення $A_i$, легко перевірити що послідовність ${\left\{\sum _{i=0}^{n}X{I}_{A_i}\right\}}_{n=0}^{\mathrm{\infty }}$ поточково збіжна до X. За припущенням у твердженні, $\mathrm{E}|X|<\mathrm{\infty }$. Застосовуючи теорему про мажоровану збіжність отримуємо бажане твердження.

Див. також

• Шаблон:Нп для одного практичного застосування.
• Формула повної ймовірності
• Закон повної дисперсії
• Закон повної коваріації
• Закон сукупної кумуляції
• Шаблон:Нп, див. підрозділ про сподівання (застосування Закону для доведення того, що сподівання добутку це добуток сподівань)

Джерела

• Шаблон:Карташов.Імовірність процеси статистика
• Шаблон:Гнеденко.Курс теории вероятностей
• Шаблон:Гіхман.Скороход.Ядренко
• Шаблон:Cite book Шаблон:Ref-en (Теорема 34.4)
• Christopher Sims, "Notes on Random Variables, Expectations, Probability Densities, and Martingales", especially equations (16) through (18)