Перегляд вихідного коду сторінки Обмежена машина Больцмана

{{Short description|Один з класів штучних нейронних мереж}}
{{Машинне навчання|Штучна нейронна мережа}}
[[Файл:Restricted Boltzmann machine-uk.svg|thumb|Схема обмеженої машини Больцмана з трьома видимими вузлами та чотирма прихованими вузлами (без упереджених вузлів).]]
'''Обме́жена маши́на Бо́льцмана''' (ОМБ, {{lang-en|restricted Boltzmann machine, RBM}})&nbsp;— це [[Породжувальна модель|породжувальна]] [[Стохастична нейронна мережа|стохастична]] [[штучна нейронна мережа]], здатна навчатися [[Розподіл ймовірностей|розподілу ймовірностей]] над набором її входів.

ОМБ було спочатку винайдено під назвою '''Гармоніум''' ({{lang-en|Harmonium}}&nbsp;— [[фісгармонія]]) {{нп|Пол Смоленський|Полом Смоленським||Paul Smolensky}} 1986 року,<ref>{{cite book
|last=Smolensky
|first=Paul
|editor1-first=David E.
|editor1-last=Rumelhart
|editor2-first=James L.
|editor2-last=McLelland
|title=Parallel Distributed Processing: Explorations in the Microstructure of Cognition, Volume 1: Foundations
|publisher=MIT Press
|year=1986
|pages=[https://archive.org/details/paralleldistribu00rume/page/194 194–281]
|chapter=Chapter 6: Information Processing in Dynamical Systems: Foundations of Harmony Theory
|chapter-url=https://stanford.edu/~jlmcc/papers/PDP/Volume%201/Chap6_PDP86.pdf
|isbn=0-262-68053-X
|accessdate=13 січня 2016
|archive-date=14 липня 2023
|archive-url=https://web.archive.org/web/20230714174222/https://stanford.edu/~jlmcc/papers/PDP/Volume%201/Chap6_PDP86.pdf
}} {{ref-en}}</ref> а популярності вони набули після винайдення [[Джефрі Гінтон]]ом зі співавторами у середині 2000-х років алгоритмів швидкого навчання для них. ОМБ знайшли застосування у [[Зниження розмірності|зниженні розмірності]],<ref>{{Cite journal | last1 = Hinton | first1 = G. E. | last2 = Salakhutdinov | first2 = R. R. | title = Reducing the Dimensionality of Data with Neural Networks | doi = 10.1126/science.1127647 | journal = Science | volume = 313 | issue = 5786 | pages = 504–507 | year = 2006 | pmid = 16873662 | url = http://www.cs.toronto.edu/~hinton/science.pdf | bibcode = 2006Sci...313..504H | s2cid = 1658773 | accessdate = 13 січня 2016 | archive-date = 23 грудня 2015 | archive-url = https://web.archive.org/web/20151223152006/http://www.cs.toronto.edu/~hinton/science.pdf }} {{ref-en}}</ref> [[Статистична класифікація|класифікації]],<ref>{{Cite conference | last1 = Larochelle | first1 = H. | last2 = Bengio | first2 = Y. | doi = 10.1145/1390156.1390224 | title = Classification using discriminative restricted Boltzmann machines | conference = Proceedings of the 25th international conference on Machine learning - ICML '08 | pages = 536 | year = 2008 | isbn = 9781605582054 | url = http://machinelearning.org/archive/icml2008/papers/601.pdf | accessdate = 13 січня 2016 | archive-date = 13 жовтня 2017 | archive-url = https://web.archive.org/web/20171013170004/http://machinelearning.org/archive/icml2008/papers/601.pdf }} {{ref-en}}</ref> [[Колаборативна фільтрація|колаборативній фільтрації]],<ref name="softCF">{{Cite conference | doi = 10.1145/1273496.1273596| title = Restricted Boltzmann machines for collaborative filtering| conference = Proceedings of the 24th international conference on Machine learning - ICML '07| pages = 791| year = 2007| last1 = Salakhutdinov | first1 = R. | last2 = Mnih | first2 = A. | last3 = Hinton | first3 = G. | isbn = 9781595937933}} {{ref-en}}</ref> [[Навчання ознак|навчанні ознак]],<ref name="coates2011">{{cite conference
|last1 = Coates
|first1 = Adam
|last2 = Lee
|first2 = Honglak
|last3 = Ng
|first3 = Andrew Y.
|title = An analysis of single-layer networks in unsupervised feature learning
|conference = International Conference on Artificial Intelligence and Statistics (AISTATS)
|year = 2011
|url = http://cs.stanford.edu/~acoates/papers/coatesleeng_aistats_2011.pdf
|accessdate = 13 січня 2016
|archive-date = 20 грудня 2014
|archive-url = https://web.archive.org/web/20141220030058/http://cs.stanford.edu/~acoates/papers/coatesleeng_aistats_2011.pdf
}} {{ref-en}}</ref> [[Тематичне моделювання|тематичному моделюванні]]<ref name="softTM">Ruslan Salakhutdinov and Geoffrey Hinton (2010). [http://books.nips.cc/papers/files/nips22/NIPS2009_0817.pdf Replicated softmax: an undirected topic model] {{Webarchive|url=https://web.archive.org/web/20120525063031/http://books.nips.cc/papers/files/nips22/NIPS2009_0817.pdf |date=25 травня 2012 }}. ''{{нп|Neural Information Processing Systems}}'' '''23'''. {{ref-en}}</ref> та навіть {{нп|Задача багатьох тіл|квантовій механіці багатьох тіл||Many-body problem}}.<ref>{{Cite journal|last1=Carleo|first1=Giuseppe|last2=Troyer|first2=Matthias|date=2017-02-10|title=Solving the quantum many-body problem with artificial neural networks|journal=Science|language=en|volume=355|issue=6325|pages=602–606|doi=10.1126/science.aag2302|pmid=28183973|issn=0036-8075|arxiv=1606.02318|bibcode=2017Sci...355..602C|s2cid=206651104}}</ref><ref>{{Cite journal|last1=Melko|first1=Roger G.|last2=Carleo|first2=Giuseppe|last3=Carrasquilla|first3=Juan|last4=Cirac|first4=J. Ignacio|date=September 2019|title=Restricted Boltzmann machines in quantum physics|journal=Nature Physics|language=en|volume=15|issue=9|pages=887–892|doi=10.1038/s41567-019-0545-1|bibcode=2019NatPh..15..887M|issn=1745-2481|doi-access=free}}</ref> Їх можна тренувати як [[Кероване навчання|керованим]], так і [[Некероване навчання|некерованим]] чином, залежно від завдання.

Як випливає з їхньої назви, ОМБ є варіантом [[Машина Больцмана|машин Больцмана]], з тим обмеженням, що їхні [[Штучний нейрон|нейрони]] мусять формувати [[двочастковий граф]]: пара вузлів з кожної з двох груп вузлів (що, як правило, називають «видимим» та «прихованим» вузлами відповідно) можуть мати симетричне з'єднання між ними, але з'єднань між вузлами в межах групи не існує. На противагу, «необмежені» машини Больцмана можуть мати з'єднання між прихованими вузлами. Це обмеження уможливлює ефективніші [[алгоритм]]и тренування, ніж доступні для загального класу машин Больцмана, зокрема, алгоритм '''контра́стового розхо́дження''' ({{lang-en|contrastive divergence}}) на основі [[Градієнтний спуск|градієнтного спуску]].<ref name="oncd">Miguel Á. Carreira-Perpiñán and Geoffrey Hinton (2005). [http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.221.8829&rep=rep1&type=pdf#page=42 On contrastive divergence learning]. ''Artificial Intelligence and Statistics''. {{ref-en}}</ref>

Обмежені машини Больцмана можливо також застосовувати в мережах [[Глибоке навчання|глибокого навчання]]. Зокрема, [[Глибока мережа переконань|глибокі мережі переконань]] можуть утворюватися «складанням» ОМБ та, можливо, тонким настроюванням отримуваної глибокої мережі за допомогою [[Градієнтний спуск|градієнтного спуску]] та [[Метод зворотного поширення помилки|зворотного поширення]].<ref>{{Cite journal 
| last1 = Hinton 
| first1 = G. 
| title = Deep belief networks 
| doi = 10.4249/scholarpedia.5947 
| journal = Scholarpedia 
| volume = 4 
| issue = 5 
| pages = 5947 
| year = 2009 
| bibcode = 2009SchpJ...4.5947H| doi-access = free 
}} {{ref-en}}</ref>

== Структура ==

Стандартний тип ОМБ має бінарновозначні ([[Булева алгебра|булеві]]) приховані та видимі вузли, і складається з [[Матриця (математика)|матриці]] {{H:title|англ. weights|вагових коефіцієнтів}} <math>W</math> розміру <math>m\times n</math>. Кожен ваговий елемент <math>(w_{i,j})</math> цієї матриці пов'язано зі з'єднанням між {{H:title|англ. visible|видимим}} (вхідним) вузлом <math>v_i</math> та {{H:title|англ. hidden|прихованим}} вузлом <math>h_j</math>. Крім того, є вагові коефіцієнти {{H:title|англ. bias|упереджень}} ({{H:title|англ. offsets|зміщення}}) <math>a_i</math> для <math>v_i</math> та <math>b_j</math> для <math>h_j</math>. З урахуванням цих ваг та упереджень, ''енергію'' конфігурації (пари булевих векторів) {{math|(''v'',''h'')}} визначають як

: <math>E(v,h) = -\sum_i a_i v_i - \sum_j b_j h_j -\sum_i \sum_j v_i w_{i,j} h_j</math>

або, в матричному записі,

: <math>E(v,h) = -a^{\mathrm{T}} v - b^{\mathrm{T}} h -v^{\mathrm{T}} W h.</math>

Ця функція енергії аналогічна функції енергії [[Нейронна мережа Гопфілда|мережі Гопфілда]]. Як і з загальними машинами Больцмана, [[спільний розподіл імовірності]] для видимих та прихованих векторів визначають у термінах функції енергії наступним чином:<ref name="guide">Geoffrey Hinton (2010). ''[http://www.cs.toronto.edu/~hinton/absps/guideTR.pdf A Practical Guide to Training Restricted Boltzmann Machines] {{Webarchive|url=https://web.archive.org/web/20140925041702/http://www.cs.toronto.edu/~hinton/absps/guideTR.pdf |date=25 вересня 2014 }}''. UTML TR 2010—003, University of Toronto. {{ref-en}}</ref>

: <math>P(v,h) = \frac{1}{Z} e^{-E(v,h)}</math>

де <math>Z</math> є {{нп|Статистична сума (математика)|статистичною сумою||Partition function (mathematics)}}, визначеною як сума <math>e^{-E(v,h)}</math> над усіма можливими конфігураціями, що можливо інтерпретувати як {{нп|Нормувальна стала|нормувальну сталу||Normalizing constant}} для забезпечення того, щоби ймовірності давали в сумі 1. [[Відособлений розподіл|Відособлена ймовірність]] видимого вектора є сумою <math>P(v,h)</math> над усіма можливими конфігураціями прихованого шару,<ref name="guide"/>

: <math>P(v) = \frac{1}{Z} \sum_{\{h\}} e^{-E(v,h)}</math>,

і навпаки. Оскільки графова структура в основі ОМБ [[Двочастковий граф|двочасткова]] (тобто, без з'єднань усередині шарів), збудження прихованих вузлів є {{нп|Умовна незалежність|взаємно незалежними||Conditional independence}} для заданих збуджень видимих вузлів. І навпаки, збудження видимих вузлів є взаємно незалежними для заданих збуджень прихованих вузлів.<ref name="oncd"/> Тобто, для ''m'' видимих вузлів та ''n'' прихованих вузлів [[Умовна ймовірність|умовною ймовірністю]] конфігурації видимих вузлів {{mvar|v}} для заданої конфігурації прихованих вузлів {{mvar|h}} є

: <math>P(v|h) = \prod_{i=1}^m P(v_i|h)</math>.

І навпаки, умовною ймовірністю {{mvar|h}} для заданої {{mvar|v}} є

: <math>P(h|v) = \prod_{j=1}^n P(h_j|v)</math>.

Імовірності окремих збуджень задаються як

: <math>P(h_j=1|v) = \sigma \left(b_j + \sum_{i=1}^m w_{i,j} v_i \right)</math> та <math>\,P(v_i=1|h) = \sigma \left(a_i + \sum_{j=1}^n w_{i,j} h_j \right)</math>

де <math>\sigma</math> позначає [[Логістична функція|логістичну сигмоїду]].

Незважаючи на те, що приховані вузли є [[Розподіл Бернуллі|бернуллієвими]], видимі вузли обмеженої машини Больцмана можуть бути [[Мультиноміальний розподіл|багатозначними]].{{clarify|date=серпень 2023|reason=Що мається на увазі під бернуллієвістю в цьому контексті?}} В такому випадку логістична функція для видимих вузлів замінюється [[Нормована експоненційна функція|нормованою експоненційною функцією]] ({{lang-en|Softmax function}})

: <math>P(v_i^k = 1|h) = \frac{\exp(a_i^k + \Sigma_j W_{ij}^k h_j)} {\Sigma_{k'=1}^K \exp(a_i^{k'} + \Sigma_j W_{ij}^{k'} h_j)}</math>

де ''K'' є кількістю дискретних значень, які мають видимі значення. Вони застосовуються в тематичному моделюванні<ref name="softTM"/> та [[Рекомендаційна система|рекомендаційних системах]].<ref name="softCF"/>

=== Співвідношення з іншими моделями ===

Обмежені машини Больцмана є особливим випадком [[Машина Больцмана|машин Больцмана]] та [[Марковська мережа|марковських випадкових полів]].<ref name="cdconvergence">{{cite journal | first1 = Ilya | last1 = Sutskever | first2 = Tijmen | last2 = Tieleman | year = 2010 | title = On the convergence properties of contrastive divergence | journal = Proc. 13th Int'l Conf. On AI and Statistics (AISTATS) | url = http://machinelearning.wustl.edu/mlpapers/paper_files/AISTATS2010_SutskeverT10.pdf | url-status = dead | archive-url = https://web.archive.org/web/20150610230811/http://machinelearning.wustl.edu/mlpapers/paper_files/AISTATS2010_SutskeverT10.pdf | archive-date = 2015-06-10 }} {{ref-en}}</ref><ref name="RBMTutorial">Asja Fischer and Christian Igel. [http://image.diku.dk/igel/paper/TRBMAI.pdf  Training Restricted Boltzmann Machines: An Introduction] {{Webarchive|url=https://web.archive.org/web/20150610230447/http://image.diku.dk/igel/paper/TRBMAI.pdf |date=10 червня 2015 }}. Pattern Recognition 47, pp. 25-39, 2014 {{ref-en}}</ref> Їхня [[графова модель]] відповідає моделі [[Факторний аналіз|факторного аналізу]].<ref>{{cite journal |author1=María Angélica Cueto |author2=Jason Morton |author3=Bernd Sturmfels |year=2010 |title=Geometry of the restricted Boltzmann machine |journal=Algebraic Methods in Statistics and Probability |volume=516 |publisher=American Mathematical Society |arxiv=0908.4425 |bibcode=2009arXiv0908.4425A }} {{ref-en}}</ref>

== Алгоритм тренування ==

Обмежені машини Больцмана тренуються максимізувати добуток ймовірностей, призначених певному тренувальному наборові <math>V</math> (матриця, кожен рядок якої розглядається як видимий вектор <math>v</math>),

: <math>\arg\max_W \prod_{v \in V} P(v)</math>

або, рівноцінно, максимізувати [[математичне сподівання]] [[Логарифмічна ймовірність|логарифмічної ймовірності]] тренувального зразка <math>v</math>, вибраного випадково з <math>V</math>:<ref name="cdconvergence"/><ref name="RBMTutorial"/>

: <math>\arg\max_W \mathbb{E} \left[ \log P(v)\right]</math>

Алгоритмом, що найчастіше застосовують для тренування ОМБ, тобто для оптимізації матриці вагових коефіцієнтів <math>W</math>, є алгоритм контрастового розходження (КР, {{lang-en|contrastive divergence, CD}}), що належить [[Джефрі Гінтон|Гінтонові]], первинно розроблений для тренування моделей {{нп|Добуток експертів|добутку експертів||Product of experts}} ({{lang-en|product of experts, PoE}}).<ref>Geoffrey Hinton (1999). [http://www.gatsby.ucl.ac.uk/publications/papers/06-1999.pdf Products of Experts] {{Webarchive|url=https://web.archive.org/web/20150924020842/http://www.gatsby.ucl.ac.uk/publications/papers/06-1999.pdf |date=24 вересня 2015 }}. ''ICANN 1999''. {{ref-en}}</ref><ref>{{Cite journal | last1 = Hinton | first1 = G. E. | title = Training Products of Experts by Minimizing Contrastive Divergence | doi = 10.1162/089976602760128018 | journal = Neural Computation | volume = 14 | issue = 8 | pages = 1771–1800 | year = 2002 | pmid = 12180402| s2cid = 207596505 | url = http://www.cs.toronto.edu/~hinton/absps/tr00-004.pdf accessdate = 13 січня 2016 | archive-date = 3 березня 2016 | archive-url = https://web.archive.org/web/20160303214502/http://www.cs.toronto.edu/~hinton/absps/tr00-004.pdf }} {{ref-en}}</ref> Цей алгоритм здійснює {{нп|Вибірка за Ґіббзом|вибірку за Ґіббзом||Gibbs sampling}}, і використовується всередині процедури [[Градієнтний спуск|градієнтного спуску]] (подібного до того, як зворотне поширення використовується всередині такої процедури при тренуванні нейронних мереж прямого поширення) для обчислення уточнення вагових коефіцієнтів.

Елементарну, однокрокову процедуру контрастового розходження (КР-1, {{lang-en|CD-1}}) для єдиного зразка може бути описано таким чином:

# Взяти тренувальний зразок {{mvar|v}}, обчислити ймовірності прихованих вузлів, та вибрати вектор прихованих збуджень {{mvar|h}} з цього розподілу ймовірності.
# Обчислити [[зовнішній добуток]] {{mvar|v}} та {{mvar|h}}, і назвати це ''позитивним градієнтом''.
# Спираючись на {{mvar|h}}, вибрати відбудову видимих вузлів {{mvar|v'}}, а потім перевибрати з неї приховані збудження {{mvar|h'}}. (крок вибірки за Ґіббзом)
# Обчислити [[зовнішній добуток]] {{mvar|v'}} та {{mvar|h'}}, і назвати це ''негативним градієнтом''.
# Покласти уточненням вагової матриці <math>W</math> різницю позитивного та негативного градієнтів, помножену на певний темп навчання: <math>\Delta W = \epsilon (vh^\mathsf{T} - v'h'^\mathsf{T})</math>.
# Уточнити упередження {{mvar|a}} та {{mvar|b}} аналогічно: <math>\Delta a = \epsilon (v - v')</math>, <math>\Delta b = \epsilon (h - h')</math>.

Практичну настанову з тренування ОМБ, написану Гінтоном, можна знайти на його домашній сторінці.<ref name="guide"/>

== Складена обмежена машина Больцмана ==
{{Незрозуміло|розділ|дата=серпень 2023}}
{{Недостатньо джерел у розділі|дата=Серпень 2023}}
{{Див. також|Глибока мережа переконань}}

* Відмінність між складеними обмеженими машинами Больцмана ({{lang-en|Stacked Restricted Boltzmann Machines}}) та ОМБ полягає в тому, що ОМБ має бічні з’єднання всередині шару, які заборонено для того, щоби зробити аналіз піддатливим. З іншого боку, складена больцманова машина складається з поєднання некерованої тришарової мережі з симетричними вагами та керованого тонко настроюваного верхнього шару для розпізнавання трьох класів.
* Використання складеної больцманової машини призначене для [[розуміння природної мови]], {{нп|Пошук документів|пошуку документів||Document retrieval}}, створення зображень та класифікування. Ці функції тренуються некерованим попереднім тренуванням та/або керованим тонким настроюванням. На відміну від неорієнтованого симетричного верхнього шару, з двоспрямованим несиметричним шаром для підключення до ОМБ. Обмежені больцманові з'єднання є тришаровим з асиметричними вагами, а дві мережі об'єднано в одну.
* Складена больцманова машина має спільні риси з ОМБ, нейрон для складеної больцманової машини це стохастичний бінарний нейрон Гопфілда, такий же, як і в обмеженій машині Больцмана. Енергію як для складеної больцманової машини, так і для ОМБ, задають ґіббзовою мірою ймовірності <math>E = -\frac12\sum_{i,j}{w_{ij}{s_i}{s_j}}+\sum_i{\theta_i}{s_i}</math>. Процес тренування обмежених больцманових машин подібний до ОМБ. Обмежені больцманові машини тренують пошарово та наближують стан рівноваги 3-сегментним проходом, не виконуючи зворотного поширення. Обмежені больцманові машини використовують як кероване, так і некероване тренування на різних ОБМ для попереднього тренування для класифікування та розпізнавання. Тренування використовує контрастове розходження з ґіббзовим вибиранням: Δw<sub>ij</sub> = e*(p<sub>ij</sub> - p'<sub>ij</sub>)
* Перевага обмеженої больцманової машини полягає у виконанні нелінійного перетворення, тому її легко розширити, що може дати ієрархічний шар ознак. Слабкість полягає у складності обчислень цілочислових та дійснозначних нейронів. Вона не слідує градієнтові будь-якої функції, тож наближення контрастового розходження до максимальної правдоподібності є імпровізованим.<ref name="guide"/>

== Література ==

* {{Citation|last1=Fischer|first1=Asja|title=An Introduction to Restricted Boltzmann Machines|date=2012|work=Progress in Pattern Recognition, Image Analysis, Computer Vision, and Applications|pages=14–36|place=Berlin, Heidelberg|publisher=Springer Berlin Heidelberg|last2=Igel|first2=Christian|series=Lecture Notes in Computer Science |volume=7441 |doi=10.1007/978-3-642-33275-3_2 |isbn=978-3-642-33274-6 |doi-access=free |language=en}}

== Див. також ==

* [[Автокодувальник]]
* {{нп|Машина Гельмгольца|||Helmholtz machine}}

== Примітки ==

{{Примітки|30em}}

== Посилання ==

* [http://blog.echen.me/2011/07/18/introduction-to-restricted-boltzmann-machines/ Введення до обмежених машин Больцмана] {{Webarchive|url=https://web.archive.org/web/20121029074609/http://blog.echen.me/2011/07/18/introduction-to-restricted-boltzmann-machines/ |date=29 жовтня 2012 }}. Блог Едвіна Чена ({{lang-en|Edwin Chen}}), 18 липня 2011&nbsp;р. {{ref-en}}
* {{Cite web |url=https://deeplearning4j.org/restrictedboltzmannmachine.html |title=A Beginner's Guide to Restricted Boltzmann Machines |access-date=15 листопада 2018 |archive-url=https://web.archive.org/web/20170211042953/https://deeplearning4j.org/restrictedboltzmannmachine.html |archive-date=11 лютого 2017 }}. Документація [[Deeplearning4j]] {{ref-en}}
* {{Cite web |url=http://deeplearning4j.org/understandingRBMs.html |title=Understanding RBMs |access-date=29 грудня 2014 |archive-url=https://web.archive.org/web/20160920122139/http://deeplearning4j.org/understandingRBMs.html |archive-date=20 вересня 2016 |url-status=dead }}. Документація Deeplearning4j {{ref-en}}
* [https://github.com/AmazaspShumik/sklearn-bayes/blob/master/skbayes/decomposition_models/rbm.py Втілення] ОМБ Бернуллі мовою ''[[Python]]'', та [https://github.com/AmazaspShumik/sklearn-bayes/blob/master/ipython_notebooks_tutorials/decomposition_models/rbm_demo.ipynb посібник] {{ref-en}}
* [https://github.com/swirepe/SimpleRBM SimpleRBM] це дуже мелий код ОМБ (24&nbsp;кБ), корисний вам для вивчення того, як вчаться та працюють ОМБ.
* Втілення обмежених машин Больцмана мовою ''[[Julia (мова програмування)|Julia]]'': https://github.com/cossio/RestrictedBoltzmannMachines.jl

[[Категорія:Архітектури нейронних мереж]]
[[Категорія:Кероване навчання]]
[[Категорія:Стохастичні моделі]]
[[Категорія:Некероване навчання]]