Псевдообернена матриця

Псевдообернена матриця — узагальнення оберненої матриці в математиці, зокрема, в лінійній алгебрі.

Матриця, псевдообернена до матриці $A$ позначається як $A^{+}$.

Найвідомішим є псевдообернення Мура-Пенроуза, яке було незалежно описано Шаблон:Нп в 1920 і Роджером Пенроузом в 1955.

Раніше, в 1903 році, концепцію псевдообернених інтегруючих операторів представив Фредгольм.

Псевдообернена матриця застосовується для знаходження найкращого наближення (методом найменших квадратів) розв'язку СЛАР.

Визначення

Означення Мура

$A^{+}$ називається псевдооберненою матрицею до матриці $A$, якщо вона задовольняє такі умови:

1. $A{A}^{+}A=A$             ($A{A}^{+}$ чи $A^{+}A$ не обов'язково дорівнюватимуть одиничній матриці);
2. $A^{+}A{A}^{+}=A^{+};$
3. $(A{A}^{+}{)}^{*}=A{A}^{+}$       (це означає, що $A{A}^{+}$ — ермітова матриця);
4. $(A^{+}A{)}^{*}=A^{+}A$       ($A^{+}A$ — також ермітова матриця);

де $A^{*}$ — ермітово-спряжена матриця до матриці $A$.

Визначення Мура-Пенроуза через граничний перехід

$A^{+}=\underset{\delta \to 0}{\lim }(A^{*}A+\delta I{)}^{-1}{A}^{*}=\underset{\delta \to 0}{\lim }{A}^{*}(A{A}^{*}+\delta I{)}^{-1}$

Ці границі існують, навіть якщо $(A{A}^{*}{)}^{-1}$ і $(A^{*}A{)}^{-1}$ не комутують.

Властивості

• Псевдообернена матриця завжди існує і вона єдина.
• Псевдообернення нульової матриці дорівнює її транспонуванню.
• Псевдообернення є оборотним до самого себе:

$(A^{+}{)}^{+}=A$.

• Псевдообернення комутує з транспонуванням, спряженням і ермітовим спряженням:

$(A^T{)}^{+}=(A^{+}{)}^T,(\bar{A}{)}^{+}=\overline{A^{+}},(A^{*}{)}^{+}=(A^{+}{)}^{*}.$

• Ранг матриці дорівнює рангу її псевдооберненої:

$rank{A}^{+}=rankA$

• Псевдообернення добутку матриці $A$ на скаляр $\alpha$ дорівнює добутку матриці $A^{+}$ на обернене число ${\alpha }^{-1}$:

$(\alpha A{)}^{+}={\alpha }^{-1}{A}^{+},\mathrm{\forall }\alpha \ne 0$.

• Якщо вже відома матриця $(A^{*}A{)}^{+}$ чи матриця $(A{A}^{*}{)}^{+}$, то їх можна використати для обчислення $A^{+}$:

$A^{+}=(A^{*}A{)}^{+}{A}^{*}$

$A^{+}=A^{*}(A{A}^{*}{)}^{+}$.

• Матриці $A^{+}A,A{A}^{+}$ — є ортогонально-проєкційними матрицями.
• Якщо матриця $A_i$ утворена з матриці $A$ за допомогою вставки ще одного нульового рядка/стовпця в і-ту позицію,

то $A_i^{+}$ буде утворюватись з $A^{+}$ додаванням нульового стовпця/рядка в і-ту позицію.

• Якщо рядок/стовпець в попередній процедурі не є нульовим $a_i\ne \overrightarrow{0}$, то існує формула Гревіля для вираження $A_i^{+}$ через $A,A^{+},a_i.$

Часткові випадки

Ортонормовані стовпці чи рядки

• Якщо в матриці $A$ ортонормовані стовпці ($A^{*}A=I$), або рядки ($A{A}^{*}=I$), то:

$A^{+}=A^{*}$.

Повний ранг

• Якщо стовпці матриці $A$ лінійно незалежні, тоді матриця $(A^{*}A)$ має повний ранг, а отже є оборотною. Тоді:

$A^{+}=(A^{*}A{)}^{-1}{A}^{*}$

Отже $A^{+}A=I$, звідки слідує, що $A^{+}$ — ліва обернена матриця для A.

• Якщо рядки матриці $A$ лінійно незалежні, тоді матриця $(A{A}^{*})$ має повний ранг, а отже є оборотною. Тоді:

$A^{+}=A^{*}(A{A}^{*}{)}^{-1}$

Отже $A{A}^{+}=I$, звідки слідує, що $A^{+}$ — права обернена матриця для A.

• Якщо і стовпці і рядки лінійно незалежні (що вірно для квадратних невироджених матриць), тоді:

$A^{+}=A^{-1}.$

Ці часткові випадки еквівалентні прибиранню доданка $\delta I$ з формули визначення псевдообернення через граничний перехід.

Псевдообернення добутку

Якщо матриці $A$ і $B$ такі, що добуток $AB$ визначений, а також:

• або A має ортонормовані стовпці ($A^{+}=A^{*}$),
• або B має ортонормовані рядки ($B^{+}=B^{*}$),
• або стовпці $A$ лінійно незалежні($A^{+}A=I$) і рядки $B$ лінійно незалежні($B{B}^{+}=I$).

Тоді:

$(AB{)}^{+}=B^{+}{A}^{+}$.

Доводиться прямою підстановкою в визначення.

Скаляри і вектори

Псевдообернення можна визначити для скалярів і векторів, якщо трактувати їх як матриці:

• Псевдообернення скаляра $x$ є скаляр

$x^{+}=\{\begin{array}{cc}0,& x=0;\\ x^{-1},& x\ne 0.\end{array}$

• Псевдообернення вектора $x$ є вектор

$x^{+}=\{\begin{array}{cc}{0}^T,& x=0;\\ \frac{x^{*}}{x^{*}x},& x\ne 0.\end{array}$

Дані трактування задовільняють визначення псевдообернення.

Обчислення

За допомогою A=BC розкладу

Нехай r — ранг матриці A розміру $m\times n$. Тоді A може бути представлена як $A=BC$, де B — матриця розміру $m\times r$, C — матриця розміру $r\times n$. Тоді

• $A^{+}=C^{*}(C{C}^{*}{)}^{-1}(B^{*}B{)}^{-1}{B}^{*}.$

чи

• $A^{+}=C^{*}(B^{*}A{C}^{*}{)}^{-1}{B}^{*}$

де $(C{C}^{*}{)}^{-1}(B^{*}B{)}^{-1}=(B^{*}BC{C}^{*}{)}^{-1}=(B^{*}A{C}^{*}{)}^{-1}$ — матриця меншого розміру $r\times r$.

За допомогою QR розкладу

Матрицю A представимо у вигляді $A=QR$, де Q — унітарна матриця, $Q^{*}Q=Q{Q}^{*}=I$, і R — верхня трикутна матриця. Тоді

$A^{*}A=(QR{)}^{*}(QR)=R^{*}{Q}^{*}QR=R^{*}R$,

$A^{+}=(R^{*}R{)}^{+}{A}^{*}$

…

За допомогою SVD розкладу

Якщо $A=U\mathrm{\Sigma }{V}^{*}$ — сингулярне представлення матриці A, тоді

$A^{+}=V{\mathrm{\Sigma }}^{+}{U}^{*}.$

Для діагональної матриці, такої як $\mathrm{\Sigma }$, псевдообернена матриця обчислюється заміною всіх ненульових значень діагональних елементів на обернені.

За допомогою мінорів

Нехай k — ранг матриці A розміру $m\times n$.

Позначимо через $A_k$ матрицю складену з k лінійно незалежних стовпців матриці A,
через $A_{\bar{k}}$ позначимо матрицю з k лінійно незалежних рядків матриці A,
через $A_{kk}$ матрицю з елементів на перетині $A_k$ з $A_{\bar{k}}$.

Тоді

$A^{+}=A_{\bar{k}}^{*}(A_{\bar{k}}{A}_{\bar{k}}^{*}{)}^{-1}\cdot A_{kk}\cdot (A_k^{*}{A}_k{)}^{-1}{A}_k^{*}$

Застосування до СЛАР

• Система рівнянь $Ax=b$ може не мати точних розв'язків, але можна знайти приблизні розв'язки — такі $x$ при яких мінімізується $\Vert Ax-b{\Vert }^2.$ Це розв'язок методом найменших квадратів.

• Загальний розв'язок системи $Ax=b$ є сумою часткового розв'язку цієї системи та загального розв'язку однорідної системи $Ax=0.$

• За визначенням, загальний розв'язок системи $Ax=0$ — це ядро лінійного оператора $A$:

$\ker A=Z(A)y$

де:

$Z(A)=I-A^{+}A$      (проектор на $\ker A$);

$y$ — довільний вектор тієї ж розмірності що і $x.$

• Частковим розв'язком неоднорідної системи є $x=A^{+}b,$ він ортогональний до $\ker A$ і тому має найменшу норму серед всіх розв'язків.

• Загальний розв'язок

$Ax=b$	єдиний розв'язок $\det A^{*}A\ne 0$	множина розв'язків $\det A^{*}A=0$
точні розв'язки є $b^{*}Z(A)b=0$	$x=A^{+}b$	${\mathrm{\Omega }}_x=A^{+}b+\ker A$
тільки приблизні розв'язки $b^{*}Z(A)b\ne 0$

• Відстань від довільної точки $y$ до множини розв'язків ${\mathrm{\Omega }}_x$ рівна:

$\Vert P(A)(y-A^{+}b)\Vert =\Vert P(A)y-A^{+}b\Vert =\Vert A^{+}(Ay-b)\Vert ,$

де:

$P(A)=I-Z(A)$      (проектор ортогональний до $\ker A$).

Джерела

• Шаблон:Гантмахер.Теорія матриць
• Шаблон:Ланкастер.Теорія матриць
• Шаблон:Хорн.Джонсон.Матричний аналіз
• Шаблон:Golub.Loan.Matrix Computations
• Шаблон:Cite book