Проста лінійна регресія

Закон Оукена в макроекономіці є прикладом простої лінійної регресії. Тут ВВП (залежна змінна) вважається лінійно залежним від зміни рівня безробіття.

У статистиці, простою лінійною регресією є лінійна регресійна модель з однією незалежною змінною. Тобто, її розглядають у двовимірному просторі вибірки, утвореному однією незалежною змінною та однією залежною змінною (зазвичай х і у — координати в декартовій системі координат). Модель призначена для знаходження лінійної функції (не вертикальною прямої) залежності, яка якомога точніше прогнозує значення залежної змінної як функції незалежної змінної. Прикметник простий вказує на залежність залежної змінної від одного предиктора.

Далі в статті вважатимемо, що використовується звичайна регресія отримана методом найменшого квадратичного відхилення. У цьому випадку, нахил (кутовий коефіцієнт прямої) цієї прямої дорівнює кореляції між y і x скоригований на коефіцієнти стандартних відхилень цих змінних. Точка перетину отриманої лінії проходить через центр мас Шаблон:Math даного набору точок.

Допасування регресійної лінії

Припустимо, що є n точок Шаблон:Math Функція, яка описує зв'язок х і y записується:

$y_i=\alpha +\beta x_i+{\epsilon }_i.$

Завдання полягає в тому, щоб знайти рівняння прямої лінії

$y=\alpha +\beta x,$

яка б забезпечувала «найкращий» допасування наявних точок даних. Тут під «найкращий» розуміємо в сенсі найменшого квадратичного відхилення: лінія, що мінімізує суму квадратів похибок лінійної регресійної моделі. Іншими словами, α (перетин з віссю y) і β (нахил) є розв'язком наступної задачі мінімізації:

$\text{Find }\underset{\alpha ,\beta }{\min }Q(\alpha ,\beta ),\text{for }Q(\alpha ,\beta )=\sum _{i=1}^n{\epsilon }_i^2=\sum _{i=1}^n(y_i-\alpha -\beta x_i{)}^2$

Просто розкриваючи дужки у виразі отримуємо квадратичний вираз відносно α і β, можна показати, що значення α і β, які мінімізують цільову функцію Q записуються формулами:

$\begin{array}{cc}\hat{\beta }& =\frac{\sum _{i=1}^n(x_i-\overline{x})(y_i-\overline{y})}{\sum _{i=1}^n(x_i-\overline{x}{)}^2}\\ & =\frac{\sum _{i=1}^n(x_i{y}_i-x_i\overline{y}-\overline{x}{y}_i+\overline{x}\overline{y})}{\sum _{i=1}^n(x_i^2-2x_i\overline{x}+{\overline{x}}^2)}\\ & =\frac{\sum _{i=1}^n(x_i{y}_i)-\overline{y}\sum _{i=1}^n{x}_i-\overline{x}\sum _{i=1}^n{y}_i+n\overline{x}\overline{y}}{\sum _{i=1}^n(x_i^2)-2\overline{x}\sum _{i=1}^n{x}_i+n{\overline{x}}^2}\\ & =\frac{\frac{1}{n}\sum _{i=1}^n{x}_i{y}_i-\overline{x}\overline{y}}{\frac{1}{n}\sum _{i=1}^n{x}_i^2-\stackrel{2}{\stackrel{‾}{x}}}\\ & =\frac{\overline{xy}-\overline{x}\overline{y}}{\overline{x^2}-{\overline{x}}^2}=\frac{\mathrm{Cov}[x,y]}{\mathrm{Var}[x]}\\ & =r_{xy}\frac{s_y}{s_x},\\ \hat{\alpha }& =\overline{y}-\hat{\beta }\overline{x},\end{array}$

де Шаблон:Math — коефіцієнт кореляції між x і y; а Шаблон:Math і Шаблон:Math — це стандартні відхилення x і y. Горизонтальна риска над величиною вказує середнє значення цієї величини. Наприклад:

$\overline{xy}=\frac{1}{n}\sum _{i=1}^n{x}_i{y}_i.$

Підставляючи вирази $\hat{\alpha }$ і $\hat{\beta }$ в

$f=\hat{\alpha }+\hat{\beta }x,$

маємо

$\frac{f-\overline{y}}{s_y}=r_{xy}\frac{x-\overline{x}}{s_x}$

Це показує, що Шаблон:Math — нахил регресійної лінії для стандартизованих точок вибірки (і ця лінія проходить через початок координат).

Іноді корисно вираховувати Шаблон:Math даних з інших причин, використовуючи формулу:

$r_{xy}=\frac{\overline{xy}-\overline{x}\overline{y}}{\sqrt{(\overline{x^2}-{\overline{x}}^2)(\overline{y^2}-{\overline{y}}^2)}}$

Коефіцієнт детермінації (R-квадрат) дорівнює $r_{xy}^2$, коли маємо справу з лінійною моделлю з однією незалежною змінною. Докладніше в статті про коефіцієнт кореляції вибірки.

Чисельні властивості

1. Регресійна лінія проходить через центр мас точок, $(\overline{x},\overline{y})$, якщо модель включає в себе вільний член (тобто, не пересунена в початок координат)
2. Сума похибок дорівнює нулю, якщо модель включає в себе вільний член:

$\sum _{i=1}^n{\hat{\epsilon }}_i=0.$

1. Значення похибок і Шаблон:Mvar некорельовані, тобто (не залежно від того чи присутній в моделі вільний член):

$\sum _{i=1}^n{x}_i{\hat{\epsilon }}_i=0$

Виведення оцінок в простій регресії

Знайдемо $\hat{\alpha }$ і $\hat{\beta }$ які мінімізують суму квадратичних похибок (СКП):

$\underset{\hat{\alpha },\hat{\beta }}{\min }\mathrm{SSE}(\hat{\alpha },\hat{\beta })\equiv \underset{\hat{\alpha },\hat{\beta }}{\min }\sum _{i=1}^n{(y_i-\hat{\alpha }-\hat{\beta }{x}_i)}^2$

Щоб знайти мінімум, візьмемо частинні похідні по $\hat{\alpha }$ і $\hat{\beta }$

$\begin{array}{cc}& \frac{\partial }{\partial \hat{\alpha }}(\mathrm{SSE}(\hat{\alpha },\hat{\beta }))=-2\sum _{i=1}^n(y_i-\hat{\alpha }-\hat{\beta }{x}_i)=0\\ \Rightarrow & \sum _{i=1}^n(y_i-\hat{\alpha }-\hat{\beta }{x}_i)=0\\ \Rightarrow & \sum _{i=1}^n{y}_i=\sum _{i=1}^n\hat{\alpha }+\hat{\beta }\sum _{i=1}^n{x}_i\\ \Rightarrow & \sum _{i=1}^n{y}_i=n\hat{\alpha }+\hat{\beta }\sum _{i=1}^n{x}_i\\ \Rightarrow & \frac{1}{n}\sum _{i=1}^n{y}_i=\hat{\alpha }+\frac{1}{n}\hat{\beta }\sum _{i=1}^n{x}_i\\ \Rightarrow & \overline{y}=\hat{\alpha }+\hat{\beta }\overline{x}\end{array}$

Перед взяттям частинної похідно по $\hat{\beta }$, підставимо попередній результат для $\hat{\alpha }$.

$\underset{\hat{\alpha },\hat{\beta }}{\min }\sum _{i=1}^n{[y_i-(\overline{y}-\hat{\beta }\overline{x})-\hat{\beta }{x}_i]}^2=\underset{\hat{\alpha },\hat{\beta }}{\min }\sum _{i=1}^n{[(y_i-\overline{y})-\hat{\beta }(x_i-\overline{x})]}^2$

Тепер візьмемо похідну по $\hat{\beta }$:

$\begin{array}{cc}& \frac{\partial }{\partial \hat{\beta }}(\mathrm{SSE}(\hat{\alpha },\hat{\beta }))=-2\sum _{i=1}^n[(y_i-\overline{y})-\hat{\beta }(x_i-\overline{x})](x_i-\overline{x})=0\\ \Rightarrow & \sum _{i=1}^n(y_i-\overline{y})(x_i-\overline{x})-\hat{\beta }\sum _{i=1}^n{(x_i-\overline{x})}^2=0\\ \Rightarrow & \hat{\beta }=\frac{\sum _{i=1}^n(y_i-\overline{y})(x_i-\overline{x})}{\sum _{i=1}^n{(x_i-\overline{x})}^2}=\frac{\mathrm{Cov}(x,y)}{\mathrm{Var}(x)}\end{array}$

І, нарешті, підставимо $\hat{\beta }$ у вираз для визначення $\hat{\alpha }$

$\hat{\alpha }=\overline{y}-\hat{\beta }\overline{x}$

Див. також

• Лінійна регресія

Джерела

• Шаблон:Карташов.Імовірність процеси статистика