Добуток Хатрі-Рао

Добуток Хатрі-Рао (Шаблон:Lang-en) — матрична операція перемноження матриць, що визначається виразом:

$𝐀\ast 𝐁={({𝐀}_{ij}\otimes {𝐁}_{ij})}_{ij}$

в якому ij-й блок являє собою добуток Кронекера Шаблон:Nowrap відповідних блоків A і B за умови, що кількість рядків і стовпців обох матриць однакова. Розмірність добутку — Шаблон:Nowrap.

Наприклад, якщо матриці A і B мають блокову розмірність Шаблон:Nowrap

$𝐀=\left[\begin{array}{cc}{𝐀}_{11}& {𝐀}_{12}\\ {𝐀}_{21}& {𝐀}_{22}\end{array}\right]=\left[\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right],𝐁=\left[\begin{array}{cc}{𝐁}_{11}& {𝐁}_{12}\\ {𝐁}_{21}& {𝐁}_{22}\end{array}\right]=\left[\begin{array}{ccc}1& 4& 7\\ 2& 5& 8\\ 3& 6& 9\end{array}\right],$

отримаємо:

$𝐀\ast 𝐁=\left[\begin{array}{cc}{𝐀}_{11}\otimes {𝐁}_{11}& {𝐀}_{12}\otimes {𝐁}_{12}\\ {𝐀}_{21}\otimes {𝐁}_{21}& {𝐀}_{22}\otimes {𝐁}_{22}\end{array}\right]=\left[\begin{array}{cccc}1& 2& 12& 21\\ 4& 5& 24& 42\\ 14& 16& 45& 72\\ 21& 24& 54& 81\end{array}\right].$

Стовпцевий добуток Хатрі-Рао

Стовпцевий добуток Кронекера двох матриць також прийнято називати добутком Хатрі-Рао. Цей добуток передбачає, що блоки матриць є їх стовпцями. В такому випадку Шаблон:Nowrap, Шаблон:Nowrap, Шаблон:Nowrap і для кожного j: Шаблон:Nowrap. Результатом добутку є Шаблон:Nowrap- матрица, кожен стовпець якої отримується як добуток Кронекера відповідних стовпців матриць A і B. Спираючись на розбиття матриць з попереднього прикладу на стовпці, отримаємо:

$𝐂=\left[\begin{array}{ccc}{𝐂}_1& {𝐂}_2& {𝐂}_3\end{array}\right]=\left[\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right],𝐃=\left[\begin{array}{ccc}{𝐃}_1& {𝐃}_2& {𝐃}_3\end{array}\right]=\left[\begin{array}{ccc}1& 4& 7\\ 2& 5& 8\\ 3& 6& 9\end{array}\right],$

і далі:

$𝐂\ast 𝐃=\left[\begin{array}{ccc}{𝐂}_1\otimes {𝐃}_1& {𝐂}_2\otimes {𝐃}_2& {𝐂}_3\otimes {𝐃}_3\end{array}\right]=\left[\begin{array}{ccc}1& 8& 21\\ 2& 10& 24\\ 3& 12& 27\\ 4& 20& 42\\ 8& 25& 48\\ 12& 30& 54\\ 7& 32& 63\\ 14& 40& 72\\ 21& 48& 81\end{array}\right].$

Застосування

Стовпцева версія добутку Хатрі-Рао застосовується в лінійній алгебрі для аналітичної обробки даних і оптимізації рішень проблеми обернення діагональних матриць.

В 1996 р. стовпцевий добуток Хатрі-Рао був запропонований для формалізації задачі оцінювання напрямку приходу та часу затримки сигналів в цифровій антенній решітці, а також для опису відгуку 4-координатного радара.

Торцевий добуток

Торцевий добуток матриць

Альтернативна концепція добутку матриць, яка на відміну від стовпцевої версії добутку Хатрі-Рао використовує розбиття матриць на рядки, була запропонована Слюсарем В. І. в 1996 р. і названа ним торцевий добуток (Шаблон:Lang-en) або транспонований добуток Хатрі-Рао (Шаблон:Lang-en).

Цей тип матричного добутку спирається на перемноження елементів рядків двох і більше матриць з однаковою кількістю рядків за правилом добутку Кронекера. Використовуючи розбиття матриць з попередніх прикладів на рядки:

$𝐂=\left[\begin{array}{c}{𝐂}_1\\ {𝐂}_2\\ {𝐂}_3\end{array}\right]=\left[\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right],𝐃=\left[\begin{array}{c}{𝐃}_1\\ {𝐃}_2\\ {𝐃}_3\end{array}\right]=\left[\begin{array}{ccc}1& 4& 7\\ 2& 5& 8\\ 3& 6& 9\end{array}\right],$

можна записати:

$𝐂\bullet 𝐃=\left[\begin{array}{c}{𝐂}_1\otimes {𝐃}_1\\ {𝐂}_2\otimes {𝐃}_2\\ {𝐂}_3\otimes {𝐃}_3\end{array}\right]=\left[\begin{array}{ccccccccc}1& 4& 7& 2& 8& 14& 3& 12& 21\\ 8& 20& 32& 10& 25& 40& 12& 30& 48\\ 21& 42& 63& 24& 48& 72& 27& 54& 81\end{array}\right].$

Основні властивості

Шаблон:Ordered list Наприклад,
$\begin{array}{c}\\ & (\left[\begin{array}{cc}1& 0\\ 0& 1\\ 1& 0\end{array}\right]\bullet \left[\begin{array}{cc}1& 0\\ 1& 0\\ 0& 1\end{array}\right])(\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right]\otimes \left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right])(\left[\begin{array}{cc}{\sigma }_1& 0\\ 0& {\sigma }_2\end{array}\right]\otimes \left[\begin{array}{cc}{\rho }_1& 0\\ 0& {\rho }_2\end{array}\right])(\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]\ast \left[\begin{array}{c}{y}_1\\ y_2\end{array}\right])\\ & =(\left[\begin{array}{cc}1& 0\\ 0& 1\\ 1& 0\end{array}\right]\bullet \left[\begin{array}{cc}1& 0\\ 1& 0\\ 0& 1\end{array}\right])(\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right]\left[\begin{array}{cc}{\sigma }_1& 0\\ 0& {\sigma }_2\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]\otimes \left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right]\left[\begin{array}{cc}{\rho }_1& 0\\ 0& {\rho }_2\end{array}\right]\left[\begin{array}{c}{y}_1\\ y_2\end{array}\right])\\ & =\left[\begin{array}{cc}1& 0\\ 0& 1\\ 1& 0\end{array}\right]\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right]\left[\begin{array}{cc}{\sigma }_1& 0\\ 0& {\sigma }_2\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]\circ \left[\begin{array}{cc}1& 0\\ 1& 0\\ 0& 1\end{array}\right]\left[\begin{array}{cc}1& 1\\ 1& -1\end{array}\right]\left[\begin{array}{cc}{\rho }_1& 0\\ 0& {\rho }_2\end{array}\right]\left[\begin{array}{c}{y}_1\\ y_2\end{array}\right]\end{array}$

та інші. Крім того, Слюсарем В. І. були запропоновані блокові версії транспонованого добутку та досліджені їх властивості.

Блоковий торцевий добуток

Застосування блокового транспонованого торцевого добутку для опису відгуку багатогранної цифрової антенної решітки

Для блокових матриць з однаковою кількістю рядків у відповідних блоках

$𝐀=\left[\begin{array}{cc}{𝐀}_{11}& {𝐀}_{12}\\ {𝐀}_{21}& {𝐀}_{22}\end{array}\right],𝐁=\left[\begin{array}{cc}{𝐁}_{11}& {𝐁}_{12}\\ {𝐁}_{21}& {𝐁}_{22}\end{array}\right],$

згідно з визначенням, блоковий торцевий добуток $𝐀[\bullet ]𝐁$ запишеться у вигляді:

$𝐀[\bullet ]𝐁=\left[\begin{array}{cc}{𝐀}_{11}\bullet {𝐁}_{11}& {𝐀}_{12}\bullet {𝐁}_{12}\\ {𝐀}_{21}\bullet {𝐁}_{21}& {𝐀}_{22}\bullet {𝐁}_{22}\end{array}\right]$.

Аналогічно для блокового транспонованого торцевого добутку (або блокового стовпцевого добутку Хатрі-Рао) двох матриць $𝐀[\ast ]𝐁$ з однаковою кількістю стовпців у відповідних блоках справедливо:

$𝐀[\ast ]𝐁=\left[\begin{array}{cc}{𝐀}_{11}\ast {𝐁}_{11}& {𝐀}_{12}\ast {𝐁}_{12}\\ {𝐀}_{21}\ast {𝐁}_{21}& {𝐀}_{22}\ast {𝐁}_{22}\end{array}\right]$.

Застосування

Родина торцевих добутків матриць стала основою започаткованої Слюсарем В. І. тензорно-матричної теорії цифрових антенних решіток для радіотехнічних систем, яка надалі отримала розвиток як частина теорії цифрової обробки сигналів.

Торцевий добуток набув широкого поширення в системах машинного навчання, статистичній обробці великих даних. Він дозволяє скоротити обсяги обчислень при реалізації методу зменшення розмірності даних, що одержав назву тензорний скетч а також швидкого перетворення Джонсона — Лінденштрауса. При цьому здійснюється перехід від матриці великої розмірності до добутку Адамара, що оперує матрицями меншого розміру. Похибки апроксимації данних великої розмірності на основі торцевого добутку матриць задовольняють лемі Джонсона — Лінденштрауса. У тому ж контексті ідея торцевого добутку може бути використана для вирішення завдання диференційної приватності (Шаблон:Lang-en). Крім того, аналогічні обчислення були застосовані для формування тензорів співпадань в задачах обробки природної мови і побудови гіперграфів подібності зображень.

Торцевий добуток використаний у 2003 р. для P-сплайн апроксимації, у 2006 р. — для побудови узагальнених лінійних моделей масивів даних (GLAM) при їх статистичній обробці, а також для ефективної реалізації ядрових методів машинного навчання та дослідження взаємодії генотипів з оточуючим середовищем.

Див. також

• Добуток Кронекера
• Тензорний скетч
• Лема Джонсона-Лінденштрауса

Джерела

• Шаблон:Cite journal
• Шаблон:Citation
• Matrix Algebra & Its Applications to Statistics & Econometrics./C. R. Rao with M. Bhaskara Rao. — World Scientific. — 1998. — P. 216.