Доречно-векторна машина

У математиці, доре́чно-ве́кторна маши́на (ДВМ, Шаблон:Lang-en) — це методика машинного навчання, яка використовує баєсове висновування для отримання ощадливих розв'язків для регресії та ймовірнісної класифікації. ДВМ має однаковий функційний вигляд з опорно-векторною машиною, але забезпечує ймовірнісну класифікацію.

Вона фактично рівнозначна моделі ґаусового процесу з Шаблон:Нп

$k(𝐱,{𝐱}^{\prime })=\sum _{j=1}^N\frac{1}{{\alpha }_j}\phi (𝐱,{𝐱}_j)\phi ({𝐱}^{\prime },{𝐱}_j)$

де $\phi$ є Шаблон:Нп (зазвичай ґаусовою), ${\alpha }_j$ є дисперсіями апріорних значень елементів вектора вагових коефіцієнтів $w\sim N(0,{\alpha }^{-1}I)$, а ${𝐱}_1,\dots ,{𝐱}_N$ є вхідними векторами тренувального набору.

У порівнянні з опорно-векторними машинами (ОВМ, Шаблон:Lang-en), баєсове формулювання ДВМ уникає набору вільних параметрів, як в ОВМ (які зазвичай вимагають післяоптимізацій на основі перехресної перевірки). Проте ДВМ використовують метод навчання, подібний до очікування-максимізації, і відтак схильні до ризику локальних мінімумів. Це відрізняється від стандартних алгоритмів на основі послідовної мінімальної оптимізації (ПМО), що використовують ОВМ, які гарантують знаходження глобального оптимуму (для опуклої задачі).

Доречно-векторну машину Шаблон:Нп компанією Microsoft.

Див. також

• Ядровий трюк
• Шаблон:Нп: перетворює ОВМ на ймовірнісну модель

Програмне забезпечення

• dlib Шаблон:Webarchive, бібліотека для C++
• The Kernel-Machine Library Шаблон:Webarchive, бібліотека для C++
• rvmbinary Шаблон:Webarchive, пакет R для бінарної класифікації
• scikit-rvm Шаблон:Webarchive
• fast-scikit-rvm Шаблон:Webarchive, rvm tutorial Шаблон:Webarchive

Посилання

• Сторінка Тіппінга про Розріджені баєсові моделі та ДВМ Шаблон:Webarchive Шаблон:Ref-en
• Підручник з ДВМ від Тристана Флетчера Шаблон:Ref-en
• Прикладний посібник із ДВМ Шаблон:Webarchive Шаблон:Ref-en
• Порівняння ДВМ та ОВМ Шаблон:Ref-en