Відношення Релея

У математиці для даної комплексної ермітової матриці $M$ і ненульового вектора $x$ відношення Релея $R(M,x)$ визначають так:

$R(M,x)=\frac{x^{*}Mx}{x^{*}x}.$

Для дійсних матриць умова ермітовості матриці зводиться до її симетричності, а ермітове спряження векторів $x^{*}$ перетворюється на звичайне транспонування $x^{\prime }$. Зауважте, що $R(M,cx)=R(M,x)$ для будь-якої дійсної константи $c\ne 0$. Нагадаємо, що ермітова (як і симетрична дійсна) матриця має дійсні власні значення. Можна показати, що для матриці відношення Релея досягає мінімального значення ${\lambda }_{\min }$ (найменше власне число матриці $M$) коли $x$ дорівнює $v_{\min }$ (відповідний власний вектор). Так само можна показати, що $R(M,x)\le {\lambda }_{\max }$ і $R(M,v_{\max })={\lambda }_{\max }$. Відношення Релея використано в теоремі Куранта — Фішера про мінімакс для отримання всіх значень власних чиселШаблон:Sfn. Використовується воно і в алгоритмах знаходження власних значень матриці для отримання наближення власного значення з наближення власного вектора. А саме, відношення є базою для ітерацій з відношенням РелеяШаблон:SfnШаблон:Sfn.

Множину значень відношення Релея називають Шаблон:Не перекладеноШаблон:SfnШаблон:Sfn.

Окремий випадок коваріаційних матриць

Коваріаційну матрицю $M$ для багатовимірної статистичної вибірки $A$ (матриці спостережень) можна подати у вигляді добутку $A^{\prime }A$Шаблон:SfnШаблон:Sfn. Як симетрична дійсна матриця, $M$ має невід'ємні власні значення і ортогональні (або звідні до ортогональних) власні вектори.

По-перше, оскільки власні значення ${\lambda }_i$ не від'ємні:

$M{v}_i=A^{\prime }A{v}_i={\lambda }_i{v}_i$

$\Rightarrow {v_i}^{\prime }{A}^{\prime }A{v}_i={v_i}^{\prime }{\lambda }_i{v}_i$

$\Rightarrow {\Vert A{v}_i\Vert }^2={\lambda }_i{\Vert v_i\Vert }^2$

$\Rightarrow {\lambda }_i=\frac{{\Vert A{v}_i\Vert }^2}{{\Vert v_i\Vert }^2}\ge 0$

і, по-друге, оскільки власні вектори $v_i$ ортогональні один з одним:

$M{v}_i={\lambda }_i{v}_i$

$\Rightarrow {v_j}^{\prime }M{v}_i={\lambda }_i{v_j}^{\prime }{v}_i$

$\Rightarrow (M{v}_j{)}^{\prime }{v}_i={\lambda }_i{v_j}^{\prime }{v}_i$

$\Rightarrow {\lambda }_j{v_j}^{\prime }{v}_i={\lambda }_i{v_j}^{\prime }{v}_i$

$\Rightarrow ({\lambda }_j-{\lambda }_i){v_j}^{\prime }{v}_i=0$

$\Rightarrow {v_j}^{\prime }{v}_i=0$, якщо власні значення різні; в разі однакових значень можна знайти ортогональний базис.

Тепер покажемо, що відношення Релея набуває найбільшого значення на векторі, відповідному найбільшому власному значенню. Розкладемо довільний вектор $x$ за базисом власних векторів $v_j$:

$x=\sum _{i=1}^n{\alpha }_i{v}_i$, де ${\alpha }_i=\frac{x^{\prime }{v}_i}{{v_i}^{\prime }{v}_i}=\frac{⟨x,v_i⟩}{{\Vert v_i\Vert }^2}$ є проєкцією $x$ на $v_i$

Отже, рівність

$R(M,x)=\frac{x^{\prime }{A}^{\prime }Ax}{x^{\prime }x}$

можна переписати так:

$R(M,x)=\frac{(\sum _{j=1}^n{\alpha }_j{v}_j{)}^{\prime }{A}^{\prime }A(\sum _{i=1}^n{\alpha }_i{v}_i)}{(\sum _{j=1}^n{\alpha }_j{v}_j{)}^{\prime }(\sum _{i=1}^n{\alpha }_i{v}_i)}$

Оскільки власні вектори ортогональні, остання рівність перетворюється на

$R(M,x)=\frac{\sum _{i=1}^n{\alpha }_i^2{\lambda }_i}{\sum _{i=1}^n{\alpha }_i^2}=\sum _{i=1}^n{\lambda }_i\frac{(x^{\prime }{v}_i{)}^2}{(x^{\prime }x)({v_i}^{\prime }{v}_i)}$

Остання рівність показує, що відношення Релея є сумою квадратів косинусів кутів між вектором $x$ і кожним з власних векторів $v_i$, помножених на відповідне власне значення.

Якщо вектор $x$ максимізує $R(M,x)$, то всі вектори, отримані з $x$ множенням на скаляр ($kx$ для $k\ne 0$) також максимізують $R$. Таким чином, задачу можна звести до знаходження максимуму $\sum _{i=1}^n{\alpha }_i^2{\lambda }_i$ за умови $\sum _{i=1}^n{\alpha }_i^2=1$.

Оскільки всі власні числа не від'ємні, задача зводиться до знаходження максимуму опуклої функція і можна показати, що він досягається при ${\alpha }_1=1$ і $\mathrm{\forall }i>1,{\alpha }_i=0$ (власні значення впорядковані за спаданням).

Таким чином, відношення Релея досягає максимуму на власному векторі, відповідному найбільшому власному значенню.

Той самий результат з використанням множників Лагранжа

Той самий результат можна отримати за допомогою множників Лагранжа. Задача полягає в знаходженні критичних точок функції

$R(M,x)=x^{T}Mx$,

за сталої величини $\Vert x{\Vert }^2=x^{T}x=1.$ Тобто, потрібно знайти критичні точки функції

$ℒ(x)=x^{T}Mx-\lambda (x^{T}x-1),$

де $\lambda$ — множник Лагранжа.

Для стаціонарних точок функції $ℒ(x)$ виконується рівність

$\frac{dℒ(x)}{dx}=0$

$\therefore 2x^T{M}^T-2\lambda x^T=0$

$\therefore Mx=\lambda x$

і $R(M,x)=\frac{x^{T}Mx}{x^{T}x}=\lambda \frac{x^{T}x}{x^{T}x}=\lambda .$

Таким чином, власні вектори $x_1\dots x_n$ матриці $M$ є критичними точками відношення Релея і їхні власні значення ${\lambda }_1\dots {\lambda }_n$ — відповідними стаціонарними значеннями.

Ця властивість є базисом методу головних компонент і канонічної кореляції.

Використання в теорії Штурма — Ліувілля

Теорія Штурма — Ліувілля полягає в дослідженні лінійного оператора

$L(y)=\frac{1}{w(x)}(-\frac{d}{dx}[p(x)\frac{dy}{dx}]+q(x)y)$

зі скалярним добутком

$⟨y_1,y_2⟩=\underset{a}{\overset{b}{\int }}w(x)y_1(x)y_2(x)dx$,

де функції задовольняють деяким специфічним граничним умовам у точках $a$ і $b$. Відношення Релея тут набуває вигляду

$\frac{⟨y,Ly⟩}{⟨y,y⟩}=\frac{\underset{a}{\overset{b}{\int }}y(x)(-\frac{d}{dx}[p(x)\frac{dy}{dx}]+q(x)y(x))dx}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}.$

Іноді це відношення подають в еквівалентному вигляді, скориставшись інтегруванням частинамиШаблон:Sfn:

$\frac{⟨y,Ly⟩}{⟨y,y⟩}=\frac{\underset{a}{\overset{b}{\int }}y(x)(-\frac{d}{dx}[p(x)y^{\prime }(x)])dx+\underset{a}{\overset{b}{\int }}q(x)y(x{)}^{2}dx}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}$

$=\frac{-y(x)[p(x)y^{\prime }(x)]{|}_a^b+\underset{a}{\overset{b}{\int }}{y}^{\prime }(x)[p(x)y^{\prime }(x)]dx+\underset{a}{\overset{b}{\int }}q(x)y(x{)}^{2}dx}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}$

$=\frac{-p(x)y(x)y^{\prime }(x){|}_a^b+\underset{a}{\overset{b}{\int }}[p(x)y^{\prime }(x{)}^2+q(x)y(x{)}^2]dx}{\underset{a}{\overset{b}{\int }}w(x)y(x{)}^{2}dx}.$

Узагальнення

Для будь-якої пари $(A,B)$ дійсних симетричних додатноозначених матриць і ненульового вектора $x$, узагальнене відношення Релея визначається як

$R(A,B;x):=\frac{x^{T}Ax}{x^{T}Bx}.$

Узагальнене відношення Релея можна звести до відношення Релея $R(D,Cx)$ перетворенням $D={C^{*}}^{-1}A{C}^{-1}$, де $C$ — розклад Холецького матриці $B$.

Див. також

• Шаблон:Не перекладено

Література

• Шаблон:Книга
• Шаблон:Книга
• Шаблон:Книга
• Шаблон:Книга
• Шаблон:Книга
• Шаблон:Стаття
• Шаблон:Стаття
• Шаблон:Стаття
• Шаблон:Книга