Середньоквадратична похибка

Шаблон:Перенаправлено-не-плутати У статистиці середньоквадрати́чна по́хибка, сере́дня квадрати́чна по́хибка (СКП, Шаблон:Lang-en) або середньоквадрати́чне відхи́лення, сере́днє квадрати́чне відхи́лення (СКВ, Шаблон:Lang-en) оцінювача (процедури оцінювання неспостережуваної величини) вимірює усереднення квадратів похибок — тобто, середнє квадратичної різниці між оцінками значень та справжнім значенням. СКП є функцією ризику, яка відповідає математичному сподіванню квадрату похибкових втрат.Шаблон:На чию думкуШаблон:Прояснити Той факт, що СКП є майже завжди строго додатною (а не нульовою), випливає з випадковості, або з того, що оцінювач Шаблон:Нп, яка могла би давати точнішу оцінку.

СКП є мірою якості оцінювача. Оскільки вона походить від квадрата евклідової відстані, її значення є завжди додатним, і зменшується, коли похибка наближається до нуля.

СКП є другим моментом похибки (відносно оригіналу),Шаблон:Прояснити і, таким чином, охоплює як дисперсію оцінювача (наскільки широким є розкид оцінок від одного зразка даних до іншого), так і його зміщення (наскільки віддаленим є усереднене оцінене значення від істинного).Шаблон:Джерело Для незміщеного оцінювача СКП є його дисперсією. Як і дисперсія, СКП має ті ж одиниці вимірювання, що й квадрат оцінюваної величини. За аналогією зі стандартним відхиленням, взяття квадратного кореня СКП дає кореневу середньоквадратичну похибку, або Шаблон:Нп (КСКП або КСКВ, Шаблон:Lang-en), що має ті ж одиниці вимірювання, що й оцінювана величина. Для незміщеного оцінювача КСКП є квадратним коренем дисперсії, відомим як стандартна похибка.

Визначення та основні властивості

СКП оцінює якість або передбачувача (тобто функції, що відображує довільні входи до вибірки значень деякої випадкової величини), або оцінювача (тобто математичної функції, що відображує вибірку даних до оцінки параметра сукупності, з якої відбираються ці дані). Визначення СКП різниться залежно від того, чи вона описує передбачувач, чи оцінювач.

Передбачувач

Якщо вектор з $n$ передбачень породжується з вибірки $n$ точок даних на всіх змінних, $Y$ є вектором спостережуваних значень передбачуваної змінної, а $\hat{Y}$ є передбаченими значеннями (наприклад, як із допасовування найменшими квадратами), тоді СКП цього передбачувача в межах цієї вибірки обчислюється як

$\mathrm{MSE}=\frac{1}{n}\sum _{i=1}^n(Y_i-\widehat{Y_i}{)}^2.$

Іншими словами, СКП є середнім значенням $\left(\frac{1}{n}{\sum }_{i=1}^n\right)$ квадратів похибок ${(Y_i-\widehat{Y_i})}^2$. Це є легко обчислюваною величиною для конкретної вибірки (й отже, залежить від вибірки).

У матрицевому записі

$\mathrm{MSE}=\frac{1}{n}\sum _{i=1}^n(e_i{)}^2=\frac{1}{n}{𝐞}^{𝖳}𝐞$

де $e_i$ є $(Y_i-\widehat{Y_i})$, а $𝐞$ є матрицею $n\times 1$.

СКП також можливо обчислювати на q точках даних, які не використовували для оцінювання моделі, чи то через те, що їх було притримано для цієї мети, чи то через те, що ці дані було отримано щойно. У цьому процесі (відомому як перехресне затверджування) СКП часто називають Шаблон:НпШаблон:Джерело, й обчислюють як

$\mathrm{MSPE}=\frac{1}{q}\sum _{i=n+1}^{n+q}{(Y_i-\widehat{Y_i})}^2.$

Оцінювач

СКП оцінювача $\hat{\theta }$ відносно невідомого параметра $\theta$ визначають як

$\mathrm{MSE}(\hat{\theta })={\mathrm{E}}_{\theta }[(\hat{\theta }-\theta {)}^2].$

Це визначення залежить від невідомого параметра, але СКП апріорі є властивістю оцінювача. СКП може бути функцією від невідомих параметрів, і в цьому випадку будь-який оцінювач СКП на основі оцінок цих параметрів буде функцією від даних (і відтак випадковою величиною). Якщо оцінювач $\hat{\theta }$ виводять як статистику вибірки й використовують для оцінювання якогось параметра сукупності, тоді математичне сподівання стосується ви́біркового розподілу цієї статистики вибірки.

СКП можливо записувати як суму дисперсії оцінювача та квадрату його зміщення, що забезпечує корисний спосіб обчислювання СКП й виражає те, що у випадку незміщених оцінювачів СКП та дисперсія дорівнюють одна одній.

$\mathrm{MSE}(\hat{\theta })={\mathrm{Var}}_{\theta }(\hat{\theta })+\mathrm{Bias}(\hat{\theta },\theta {)}^2.$

Доведення взаємозв'язку з дисперсією та зміщенням

$\begin{array}{cc}\mathrm{MSE}(\hat{\theta })& ={\mathrm{E}}_{\theta }[(\hat{\theta }-\theta {)}^2]\\ & ={\mathrm{E}}_{\theta }\left[{(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }]+{\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )}^2\right]\\ & ={\mathrm{E}}_{\theta }[{(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }])}^2+2(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }])({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )+{({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )}^2]\\ & ={\mathrm{E}}_{\theta }\left[{(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }])}^2\right]+{\mathrm{E}}_{\theta }\left[2(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }])({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )\right]+{\mathrm{E}}_{\theta }\left[{({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )}^2\right]\\ & ={\mathrm{E}}_{\theta }\left[{(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }])}^2\right]+2({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta ){\mathrm{E}}_{\theta }[\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }]]+{({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )}^2& & {\mathrm{E}}_{\theta }[\hat{\theta }]-\theta =\text{const.}\\ & ={\mathrm{E}}_{\theta }\left[{(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }])}^2\right]+2({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )({\mathrm{E}}_{\theta }[\hat{\theta }]-{\mathrm{E}}_{\theta }[\hat{\theta }])+{({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )}^2& & {\mathrm{E}}_{\theta }[\hat{\theta }]=\text{const.}\\ & ={\mathrm{E}}_{\theta }\left[{(\hat{\theta }-{\mathrm{E}}_{\theta }[\hat{\theta }])}^2\right]+{({\mathrm{E}}_{\theta }[\hat{\theta }]-\theta )}^2\\ & ={\mathrm{Var}}_{\theta }(\hat{\theta })+{\mathrm{Bias}}_{\theta }(\hat{\theta },\theta {)}^2\end{array}$

Як альтернативний варіант, маємо

$\begin{array}{cc}𝔼(\theta -\hat{\theta }{)}^2& =𝔼({\hat{\theta }}^2)+𝔼({\theta }^2)-2\theta 𝔼(\hat{\theta })\\ & =\mathrm{Var}(\hat{\theta })+(𝔼\hat{\theta }{)}^2+{\theta }^2-2\theta 𝔼(\hat{\theta })\\ & =\mathrm{Var}(\hat{\theta })+(𝔼\hat{\theta }-\theta {)}^2\\ & =\mathrm{Var}(\hat{\theta })+{\mathrm{Bias}}^2(\hat{\theta })\end{array}$

Але у випадку реального моделювання, СКП можливо описувати як суму дисперсії моделі, зміщення моделі, та незвідної невизначеностіШаблон:ДжерелоШаблон:Прояснити. Відповідно до цього взаємозв'язку, СКП оцінювачів можливо просто використовувати для порівнювання Шаблон:Нп, що враховує інформацію про дисперсію та зміщення оцінювача. Це називають критерієм СКП (Шаблон:Lang-en).

У регресії

В регресійному аналізі природнішим способом перегляду загальної тенденції даних у цілому є побудова графіків. Середнє значення відстані від кожної з точок до передбачуваної регресійної моделі можливо обчислювати й показувати як середньоквадратичну похибку. Піднесення до квадрату має вирішальне значення для подолання складності з від'ємними знаками. Для мінімізування СКП модель може бути точнішою, що означатиме, що модель є ближчою до фактичних даних. Одним із прикладів лінійної регресії з використанням цього методу є метод найменших квадратів, який оцінює адекватність моделі лінійної регресії для моделювання Шаблон:Нп, але обмеження якого пов'язане з відомим розподілом цих даних.

Термін середньоквадратична похибка іноді використовують як позначення незміщеної оцінки дисперсії похибок: Шаблон:Нп, поділеної на кількість ступенів вільності. Це визначення для відомої, обчислюваної величини відрізняється від наведеного вище визначення для обчислюваної СКП передбачувача використанням іншого знаменника. Цим знаменником є розмір вибірки, зменшений на кількість параметрів моделі, оцінюваних з тих самих даних, (n − p) для p регресорів, або (n − p − 1), якщо використовують Шаблон:Нп (докладніше див. похибки та залишки у статистиці). Незважаючи на те, що СКП (визначене як у цій статті) не є незміщеним оцінювачем дисперсії похибок, вона є слушним оцінювачем за умови слушності передбачувача.

У регресійнім аналізі «середньоквадратична похибка», яку часто називають Шаблон:Нп або «позави́бірковою середньоквадратичною похибкою» (Шаблон:Lang-en), може також позначувати середнє значення Шаблон:Нп передбачень від істинних значень на позавибірковому випробувальному просторі, породженому моделлю, оціненою за певним ви́бірковим простором. Вона також є відомою, обчислюваною величиною, і вона різниться залежно від вибірки та позавибіркового випробувального простору.

Приклади

Середнє значення

Нехай є випадкова вибірка розміру $n$ з генеральної сукупності, $X_1,\dots ,X_n$. Нехай зразки вибірки було вибрано Шаблон:Нп. Тобто, $n$ зразків вибирають по одному, і раніше вибрані зразки все одно мають право бути вибраними для всіх $n$ витягувань. Звичайним оцінювачем для $\mu$ є ви́біркове середнє

$\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$

яке має математичне сподівання, що дорівнює істинному середньому $\mu$ (тож воно є незміщеним), і середньоквадратичну похибку

$\mathrm{MSE}\left(\bar{X}\right)=\mathrm{E}\left[{(\bar{X}-\mu )}^2\right]={\left(\frac{\sigma }{\sqrt{n}}\right)}^2=\frac{{\sigma }^2}{n}$

де ${\sigma }^2$ є дисперсією сукупності.

Це є Шаблон:Нп (тобто тим, що має найнижчу СКП серед усіх незміщених оцінювачів) для гауссового розподілу, але не для, скажімо, рівномірного розподілу.

Дисперсія

Звичайним оцінювачем дисперсії є виправлена дисперсія вибірки:

$S_{n-1}^2=\frac{1}{n-1}\sum _{i=1}^n{(X_i-\bar{X})}^2=\frac{1}{n-1}(\sum _{i=1}^n{X}_i^2-n\stackrel{2}{\stackrel{‾}{X}}).$

Він є незміщеним (його математичним сподіванням є ${\sigma }^2$), й відтак його також називають незміщеною дисперсією вибірки, а його СКП становить

$\mathrm{MSE}(S_{n-1}^2)=\frac{1}{n}({\mu }_4-\frac{n-3}{n-1}{\sigma }^4)=\frac{1}{n}({\gamma }_2+\frac{2n}{n-1}){\sigma }^4,$

де ${\mu }_4$ є четвертим центральним моментом розподілу або сукупності, а ${\gamma }_2={\mu }_4/{\sigma }^4-3$ є коефіцієнтом ексцесу.

Проте можливо використовувати й інші оцінювачі для ${\sigma }^2$, пропорційні $S_{n-1}^2$, і належний вибір може завжди давати нижчу середньоквадратичну похибку. Якщо ми визначимо

$S_a^2=\frac{n-1}{a}{S}_{n-1}^2=\frac{1}{a}\sum _{i=1}^n{(X_i-\bar{X})}^2$

тоді обчислюємо:

$\begin{array}{cc}\mathrm{MSE}(S_a^2)& =\mathrm{E}\left[{(\frac{n-1}{a}{S}_{n-1}^2-{\sigma }^2)}^2\right]\\ & =\mathrm{E}[\frac{(n-1{)}^2}{a^2}{S}_{n-1}^4-2\left(\frac{n-1}{a}{S}_{n-1}^2\right){\sigma }^2+{\sigma }^4]\\ & =\frac{(n-1{)}^2}{a^2}\mathrm{E}\left[S_{n-1}^4\right]-2\left(\frac{n-1}{a}\right)\mathrm{E}\left[S_{n-1}^2\right]{\sigma }^2+{\sigma }^4\\ & =\frac{(n-1{)}^2}{a^2}\mathrm{E}\left[S_{n-1}^4\right]-2\left(\frac{n-1}{a}\right){\sigma }^4+{\sigma }^4& & \mathrm{E}\left[S_{n-1}^2\right]={\sigma }^2\\ & =\frac{(n-1{)}^2}{a^2}(\frac{{\gamma }_2}{n}+\frac{n+1}{n-1}){\sigma }^4-2\left(\frac{n-1}{a}\right){\sigma }^4+{\sigma }^4& & \mathrm{E}\left[S_{n-1}^4\right]=\mathrm{MSE}(S_{n-1}^2)+{\sigma }^4\\ & =\frac{n-1}{n{a}^2}((n-1){\gamma }_2+n^2+n){\sigma }^4-2\left(\frac{n-1}{a}\right){\sigma }^4+{\sigma }^4\end{array}$

Це мінімізується, коли

$a=\frac{(n-1){\gamma }_2+n^2+n}{n}=n+1+\frac{n-1}{n}{\gamma }_2.$

Для гауссового розподілу, де ${\gamma }_2=0$, це означає, що СКП зводиться до мінімуму при діленні суми на $a=n+1$ . Мінімальний коефіцієнт ексцесу становить ${\gamma }_2=-2$,Шаблон:Efn що досягається розподілом Бернуллі з p = 1/2 (підкидання монети), й СКП зводиться до мінімуму при $a=n-1+\frac{2}{n}.$ Отже, незалежно від коефіцієнту ексцесу, ми отримуємо «кращу» оцінку (в сенсі нижчої СКП), трохи зменшивши незміщений оцінювач. Це є простим прикладом Шаблон:Нп: оцінювач «стискають» у бік нуля (зменшують незміщений оцінювач).

Далі, хоч виправлена дисперсія вибірки і є Шаблон:Нп (мінімальна середньоквадратична похибка серед незміщених оцінювачів) дисперсії для гауссових розподілів, якщо розподіл не є гауссовим, то навіть серед незміщених оцінювачів $S_{n-1}^2$ найкращим незміщеним оцінювачем дисперсії бути не може.

Гауссів розподіл

В наступній таблиці наведено декілька оцінювачів істинних параметрів сукупності, μ та σ², для гауссового випадку.

Істинне значення	Оцінювач	Середньоквадратична похибка
$\theta =\mu$	$\hat{\theta }$ = незміщений оцінювач середнього значення сукупності, $\bar{X}=\frac{1}{n}\sum _{i=1}^n(X_i)$	$\mathrm{MSE}(\bar{X})=\mathrm{E}((\bar{X}-\mu {)}^2)={\left(\frac{\sigma }{\sqrt{n}}\right)}^2$
$\theta ={\sigma }^2$	$\hat{\theta }$ = незміщений оцінювач дисперсії сукупності, $S_{n-1}^2=\frac{1}{n-1}\sum _{i=1}^n{(X_i-\bar{X})}^2$	$\mathrm{MSE}(S_{n-1}^2)=\mathrm{E}((S_{n-1}^2-{\sigma }^2{)}^2)=\frac{2}{n-1}{\sigma }^4$
$\theta ={\sigma }^2$	$\hat{\theta }$ = зміщений оцінювач дисперсії сукупності, $S_n^2=\frac{1}{n}\sum _{i=1}^n{(X_i-\bar{X})}^2$	$\mathrm{MSE}(S_n^2)=\mathrm{E}((S_n^2-{\sigma }^2{)}^2)=\frac{2n-1}{n^2}{\sigma }^4$
$\theta ={\sigma }^2$	$\hat{\theta }$ = зміщений оцінювач дисперсії сукупності, $S_{n+1}^2=\frac{1}{n+1}\sum _{i=1}^n{(X_i-\bar{X})}^2$	$\mathrm{MSE}(S_{n+1}^2)=\mathrm{E}((S_{n+1}^2-{\sigma }^2{)}^2)=\frac{2}{n+1}{\sigma }^4$

Інтерпретація

Нульова СКП, що означає, що оцінювач $\hat{\theta }$ передбачує спостереження параметру $\theta$ з бездоганною точністю, є ідеальною (але зазвичай неможливою).

Значення СКП можна використовувати з метою порівнювання. Дві або більше статистичних моделей можна порівнювати, використовуючи їхні СКП — як міру того, наскільки добре вони пояснюють заданий набір спостережень: незміщений оцінювач (оцінений зі статистичної моделі) з найменшою дисперсією серед усіх незміщених оцінювачів є Шаблон:Нп, або Шаблон:Lang-en.

Як методика лінійної регресії, так і методика дисперсійного аналізу оцінюють СКП як частину аналізу й використовують оцінену СКП, щоби визначати статистичну значущість досліджуваних чинників або предикторів. Метою планування експериментів є побудова експериментів таким чином, щоби при аналізі спостережень СКП була близькою до нуля відносно величини щонайменше одного з оцінюваних впливів експерименту.

В однофакторнім дисперсійнім аналізі СКП можливо обчислювати шляхом ділення суми квадратів похибок на ступінь вільності. Також, F-значення є відношенням середньоквадратичного впливу до СКП.

СКП також використовують у декількох методиках Шаблон:Нп як частину визначання того, скільки предикторів з набору кандидатів включити до моделі для заданого набору спостережень.

Застосування

• Зведення СКП до мінімуму є ключовим критерієм обирання оцінювачів, див. Шаблон:Нп. Серед незміщених оцінювачів зведення СКП до мінімуму еквівалентне зведенню до мінімуму дисперсії, а оцінювач, який робить це, є Шаблон:Нп. Проте зміщений оцінювач може мати нижчу СКП, див. зміщення оцінювача.
• У статистичному моделюванні СКП може подавати різницю між фактичними спостереженнями та значеннями спостережень, передбаченими моделлю. У цьому контексті її використовують для того, щоб визначати, наскільки модель допасовано до даних, а також чи можливо вилучити деякі пояснювальні змінні без значної шкоди для передбачувальної здатності моделі.
• Шаблон:Нп у прогнозуванні та передбачуванні є мірою Шаблон:Нп, що ґрунтується на СКП.

Функція втрат

Втрати квадрату похибки є однією з найширше використовуваних функцій втрат у статистиціШаблон:Джерело, хоча її широке використання більше випливає з математичної зручності, ніж з міркувань фактичних втрат у застосуваннях. Карл Фрідріх Гаусс, який запровадив використання середньоквадратичної похибки, усвідомлював її довільність і погоджувався з запереченнями проти неї на цих підставах. Математичні переваги середньоквадратичної похибки особливо очевидні при її використанні для аналізу продуктивності лінійної регресії, оскільки це дозволяє розділити дисперсію в наборі даних на дисперсію, що пояснюється моделлю, та дисперсію, що пояснюється випадковістю.

Критика

Беззаперечне використання середньоквадратичної похибки критикував фахівець із теорії рішень Шаблон:Нп. Середньоквадратична похибка — це мінус математичного сподівання однієї конкретної функції корисності, квадратичної, яка може не бути слушною функцією корисності для використання за заданої сукупності обставин. Проте існують деякі сценарії, за яких середньоквадратична похибка може слугувати добрим наближенням функції втрат, що зустрічається у застосуванні природним чином.

Як і дисперсія, середньоквадратична похибка має недолік надавання великої ваги викидам. Це є результатом піднесенням до квадрату кожного члену, через яке більші похибки заважують сильніше за менші. Ця властивість, небажана у багатьох застосуваннях, змусила дослідників використовувати такі альтернативи як Шаблон:Нп, або такі, що ґрунтуються на медіані.

Див. також

• Шаблон:Нп
• Компроміс зміщення та дисперсії
• Шаблон:Нп
• Шаблон:Нп
• Шаблон:Нп
• Шаблон:Нп
• Перенавчання
• Пікове відношення сигналу до шуму
• Шаблон:Нп
• Шаблон:Нп
• Шаблон:Нп
• Шаблон:Нп