Графова модель

Шаблон:Машинне навчання Гра́фова моде́ль, або імові́рнісна гр́афова моде́ль (ІГМ, Шаблон:Lang-en) — це ймовірнісна модель, для якої Шаблон:Нп між випадковими змінними виражено графом. Вони поширені в теорії ймовірностей, статистиці, — зокрема, баєсовій, — та в машинному навчанні.

Приклад графової моделі. Кожна стрілка показує залежність. У цьому прикладі D залежить від A, D залежить від B, D залежить від C, C залежить від B та C залежить від D.

Типи графових моделей

Як правило, ймовірнісні графові моделі як основу для кодування повного розподілу над багатовимірним простором використовують представлення на основі графів, і граф, що є компактним або Шаблон:Нп представленням набору незалежностей, що містяться у певному розподілі. Зазвичай застосовують дві галузі графових представлень розподілів, а саме баєсові та марковські мережі. Обидва сімейства охоплюють властивості розкладу та незалежностей, але вони мають відмінності в наборі незалежностей, що вони можуть кодувати, та факторизації розподілу, що вони спричиняють.

Баєсова мережа

Якщо мережеву структуру моделі представлено як орієнтований ациклічний граф, то ця модель представляє розклад спільної ймовірності всіх випадкових змінних. Точніше, якщо подіями є $X_1,\dots ,X_n$, то спільна ймовірність задовольняє

$P[X_1,\dots ,X_n]=\prod _{i=1}^{n}P[X_i|p{a}_i]$

де $p{a}_i$ є набором батьків вершини $X_i$. Іншими словами, спільний розподіл розкладається у добуток умовних розподілів. Наприклад, зображена вище статистична модель (що насправді є не орієнтованим ациклічним, а Шаблон:Нп) складається з випадкових змінних $A,B,C,D$ з густиною спільного розподілу ймовірності, що розкладається як

$P[A,B,C,D]=P[A]\cdot P[B]\cdot P[C|B,D]\cdot P[D|A,B,C].$

Будь-які дві вершини є Шаблон:Нп для заданих значень їх батьків. Загалом, будь-які дві множини вершин є умовно незалежними для заданої третьої множини, якщо в графі виконується критерій, що називається о-розділеністю. В баєсових мережах локальна та глобальна незалежності є еквівалентними.

Цей тип графової моделі відомий як орієнтована графова модель, баєсова мережа, або мережа переконань. Класичні методи машинного навчання, такі як приховані марковські моделі, нейронні мережі, та новіші моделі, такі як Шаблон:Нп, можуть розглядатися як окремі випадки баєсових мереж.

Марковське випадкове поле

Марковське випадкове поле, відоме також як марковська мережа, є моделлю над неорієнтованим графом. Графічну модель з багатьма повторюваними підблоками може бути представлено за допомогою Шаблон:Нп.

Інші типи

• Шаблон:Нп — це неорієнтований двочастковий граф, що з'єднує змінні та фактори. Кожен фактор представляє функцію над змінними, з якими його з'єднано. Це представлення є корисним для розуміння та реалізації Шаблон:Нп.
• Дерево клік або дерево злук, є деревом, що складається з клік, яке застосовується в Шаблон:Нп.
• Шаблон:Нп — це граф, що може мати як орієнтовані, так і неорієнтовані ребра, але без жодних орієнтованих циклів (тобто, якщо ми почали з будь-якої вершини і рухаємось графом, дотримуючись напрямків наявних стрілок, то ми не зможемо повернутися до початкової вершини, якщо ми пройшли стрілку). Як орієнтовані ациклічні графи, так і неорієнтовані графи є окремими випадками ланцюгових графів, що відтак забезпечують спосіб уніфікації та узагальнення баєсових та марковських мереж.
• Шаблон:Нп є подальшим розширенням, що має орієнтовані, біорієнтовані та неорієнтовані ребра.
• Умовне випадкове поле є розрізнювальною моделлю, визначеною над неорієнтованим графом.
• Обмежена машина Больцмана є двочастковою породжувальною моделлю, визначеною над неорієнтованим графом.

Застосування

Система моделей, що забезпечує алгоритми для виявлення та аналізу структур складних розподілів для їх стислого опису та витягування не структурованої інформації, дозволяє будувати та використовувати їх ефективно. Застосування графових моделей включають витягування інформації, розпізнавання мовлення, комп'ютерний зір, декодування кодів з малою щільністю перевірок на парність, моделювання генних регуляторних мереж, пошуку генів та діагностування захворювань, та Шаблон:Нп.

Див. також

• Шаблон:Нп
• Шаблон:Нп

Навчальні посібники

• Graphical models and Conditional Random Fields Шаблон:Webarchive Шаблон:Ref-en
• Probabilistic Graphical Models taught by Eric Xing at CMU Шаблон:Webarchive Шаблон:Ref-en

Джерела та література

Книги та глави книг

• Шаблон:Cite book Шаблон:Ref-en
• Шаблон:Cite book Шаблон:Ref-en Досконаліша та статистично орієнтована книга
• Шаблон:Cite book
• Шаблон:Cite book Шаблон:Ref-en
• Шаблон:Cite book Шаблон:Ref-en Обчислювальний підхід до аргументації, в якому було формально представлено взаємозв'язки між графами та ймовірностями.

Статті в наукових журналах

• Шаблон:Cite journal Шаблон:Ref-en
• Шаблон:Cite journal Шаблон:Ref-en

Інше

• Heckerman's Bayes Net Learning Tutorial Шаблон:Webarchive Шаблон:Ref-en
• A Brief Introduction to Graphical Models and Bayesian Networks Шаблон:Webarchive Шаблон:Ref-en
• Sargur Srihari's lecture slides on probabilistic graphical models Шаблон:Webarchive Шаблон:Ref-en

Шаблон:Статистика