Лінійна модель

Лінійна модель

У статистиці лінійна модель — будь-яка модель, яка передбачає Шаблон:Нп системи. Найчастіше цей термін використовують для регресійних моделей і його часто сприймають як синонім лінійної регресійної моделі. Однак цей термін також використовується в аналізі часових рядів з іншим значенням. У кожному випадку позначення «лінійний» використовують для ідентифікації підкласу моделей, для яких можливе суттєве зменшення складності відповідної статистичної теорії.

Означення

Основна стаття: Лінійна регресія

Для випадку регресії, Статистична модель виглядає наступним чином. Нехай задано (випадкову) вибірку $(Y_{i}, X_{i 1}, \dots, X_{i p}), i = 1, \dots, n$ , зв'язок між спостереженнями $Y_{i}$ та незалежними змінними $X_{i j}$ , який задано як

Y_{i} = β_{0} + β_{1} ϕ_{1} (X_{i 1}) + \dots + β_{p} ϕ_{p} (X_{i p}) + ε_{i}, i = 1, \dots, n,

де $ϕ_{1}, \dots, ϕ_{p}$ можуть бути нелінійними функціями. Тут $ε_{i}$ — випадкові величини, що визначають помилки у взаємозв'язку. Лінійна частина позначення пов'язана з появою коефіцієнтів регресії $β_{j}$ у вищенаведеному співвідношенні лінійним чином. Навпаки, можна сказати, що прогнозовані значення, які відповідають наведеній вище моделі, а саме

Y_{i} = β_{0} + β_{1} ϕ_{1} (X_{i 1}) + \dots + β_{p} ϕ_{p} (X_{i p}), i = 1, \dots, n,

є лінійними функціями від $β_{j}$ .

Використовуючи Метод найменших квадратів, оцінки невідомих параметрів $β_{j}$ визначаються шляхом мінімізації функції суми квадратів

S = \sum_{i = 1}^{n} (Y_{i} - β_{0} - β_{1} ϕ_{1} (X_{i 1}) - \dots - β_{p} ϕ_{p} (X_{i p}))^{2} .

Звідси легко побачити, що "лінійний" аспект моделі означає наступне:

Функція, яку потрібно мінімізувати, є квадратичною функцією від $β_{j}$ , для якої мінімізація є відносно простою задачею;
Похідні функції є лінійними функціями від $β_{j}$ , що дозволяє легко знайти мінімальні значення;
Мінімальні значення $β_{j}$ є лінійними функціями спостережень $Y_{i}$ ;
Мінімізуючі значення $β_{j}$ є лінійними функціями випадкових похибок $ε_{i}$ , що дозволяє відносно легко визначити статистичні властивості оцінок $β_{j}$ .

Моделі часових рядів

Модель авторегресії з ковзним середнім є прикладом лінійної моделі часових рядів. У цій моделі значення часового ряду $X_{t}$ моделюються у вигляді

X_{t} = c + ε_{t} + \sum_{i = 1}^{p} ϕ_{i} X_{t - i} + \sum_{i = 1}^{q} θ_{i} ε_{t - i},

де

X_{t}

— лінійні функції попередніх значень цього ж ряду та поточних та минулих значень Шаблон:Нп, які є випадковими змінними

ε_{i}

, представляючи нові випадкові ефекти, що з'являються в певний час, але також впливають на значення

X_{t}

в пізніші моменти часу.

Використання терміна "лінійна модель" в цьому контексті означає структуру залежності у представленні $X_{t}$ як лінійної функції минулих значень того ж часового ряду та поточних і минулих значень інновацій. Це особливий аспект, що дозволяє відносно просто вивести взаємозв'язки для середнього значення та коваріаційних властивостей часового ряду.

Інші застосування в статистиці

Інколи використовують термін "нелінійна модель" для контрасту з моделями, що мають лінійну структуру, хоча зазвичай термін "лінійна модель" не застосовується безпосередньо. Одним з прикладів такого використання є Шаблон:Нп.

Див. також

Література

Priestley, M.B. (1988). Аналіз нелінійних та нестаціонарних часових рядів. Academic Press. ISBN 0-12-564911-8

Лінійна модель

Зміст