Перегляд вихідного коду сторінки Ансамблеве навчання

{{Машинне навчання}}
'''Ансамблеве навчання'''&nbsp;— техніка [[Машинне навчання|машинного навчання]], що використовує кілька навчених алгоритмів з метою отримати кращу {{Не перекладено|Передбачальна ефективність|передбачальну ефективність|en|predictive inference}}<!-- Проблема вікіфікації: Сторінка [[:en:predictive inference]] (→ [[:en:Statistical inference#Prediction]]) перекладена як [[Індуктивна статистика]], хоча хотіли [[Передбачальна ефективність]] (SashkoR0B0T)-->, ніж можна отримати від кожного алгоритму окремо{{Sfn|Opitz, Maclin|1999|с=169—198}}{{Sfn|Polikar|2006|с=21—45}}{{Sfn|Rokach|2010|с=1—39}}. На відміну від {{Нп|Ансамбль (математична фізика)|статистичного ансамблю|en|Ensemble (mathematical physics)}} в [[Статистична механіка|статистичній механіці]], який зазвичай нескінченний, ансамбль моделей у машинному навчанні складається з конкретної скінченної множини альтернативних моделей, але зазвичай дозволяє існувати істотно гнучкішим структурам.

Алгоритми [[Кероване навчання|навчання з учителем]] найчастіше описують як розв'язання задачі пошуку у просторі гіпотез відповідної гіпотези&nbsp;— такої, що дозволяє робити гарні передбачення для конкретної задачі. Але пошук хорошої гіпотези може бути складною задачею. Ансамбль використовує комбінацію кількох гіпотез, сподіваючись, що вона виявиться кращою, ніж окремі гіпотези. Термін «ансамбль» зазвичай резервують для методів, які генерують кілька гіпотез за допомогою одного й того ж базового учня. Ширше поняття ''системи множинних класифікаторів'' також використовує кілька гіпотез, але згенерованих не за допомогою одного й того ж учня{{Джерело}}.

Обчислення передбачення ансамблю зазвичай потребує більше обчислень, ніж передбачення однієї моделі, отже ансамблі можна вважати способом компенсації поганого алгоритму навчання додатковими обчисленнями. В ансамблі моделей зазвичай використовують швидкі алгоритми, такі як [[Навчання на основі дерев рішень|дерева рішень]] (наприклад, [[Random forest|випадкові ліси]]), хоча повільні алгоритми можуть отримати переваги від ансамблевої техніки.

За аналогією, ансамблеву техніку використовують також у сценаріях [[Некероване навчання|навчання без учителя]], наприклад, {{Не перекладено|Кластеризація на основі згоди|кластеризації на основі згоди|en|consensus clustering}} або у [[Виявлення аномалій|виявленні аномалій]].

== Теорія ансамблювання ==
Ансамбль є алгоритмом [[Кероване навчання|навчання з учителем]], оскільки його можна натренувати, а потім використати для здійснення передбачення. Тому тренований ансамбль надає одну гіпотезу. Ця гіпотеза, проте, необов'язково лежить у просторі гіпотез моделей, із яких її побудовано. Таким чином, ансамблі можуть мати більшу гнучкість у функціях, які можуть представляти. Ця гнучкість може, теоретично, швидше привести їх до [[перенавчання]] за тренувальними даними, ніж могло бути у випадку окремої моделі, але, на практиці, деякі техніки ансамблювання (особливо [[бутстрепова агрегація]]) схильні зменшувати проблеми, пов'язані з перенавчанням на тренувальних даних.

Емпірично ансамблі схильні давати кращі результати, якщо є відмінність моделей{{Sfn|Kuncheva, Whitaker|2003|с=181—207}}{{Sfn|Sollich, Krogh|1996|с=190—196, 1996}}. Тому в багатьох ансамблевих методах намагаються підвищити різницю комбінованих моделей{{Sfn|Brown, Wyatt, Harris, Yao|2005|с=5—20}}{{Sfn|Adeva, Cerviño, Calvo|2005}}. Хоча, можливо, неінтуїтивні, більш випадкові алгоритми (подібні до випадкових дерев рішень) можна використати для отримання строгіших ансамблів, ніж продумані алгоритми (такі як дерева рішень зі зменшенням ентропії){{Sfn|Ho|1995|с=278—282}}. Використання різних алгоритмів строгого навчання, проте, як було показано, ефективніше, ніж використання технік, які намагаються ''спростити'' моделі з метою забезпечити більшу відмінність{{Sfn|Gashler, Giraud-Carrier, Martinez|2008|с=900—905}}.

== Розмір ансамблю ==
Хоча кількість класифікаторів у ансамблі значно впливає на точність передбачення, цю проблему досліджено мало. Визначення ''[[апріорі]]'' розміру ансамблю та обсягів і швидкості великих потоків даних робить цей фактор навіть критичнішим для онлайнових ансамблів класифікаторів. Для визначення належної кількості компонентів використовувано переважно статистичні тести. Нещодавно теоретичний фреймворк дав привід припустити, що є ідеальне число класифікаторів ансамблю, таке, що число класифікаторів більше або менше від цього ідеального числа призводить до погіршення точності. Це називають «законом зменшення віддачі в побудові ансамблю». Цей теоретичний фреймворк показує, що використання числа незалежних класифікаторів, рівного кількості міток класу, дає найвищу точність{{Sfn|Bonab, Can|2016|с=2053}}{{Sfn|Bonab, Can|2017}}.

== Часто використовувані типи ансамблів ==

=== Баєсів оптимальний класифікатор ===
Баєсів оптимальний класифікатор&nbsp;— це техніка класифікації. Він є ансамблем усіх гіпотез із простору гіпотез. У середньому жоден з ансамблів не може перевершувати його{{Sfn|Mitchell|1997|с=175}}. [[Наївний баєсів класифікатор]]&nbsp;— це версія, яка передбачає, що дані умовно незалежні від класу, і виконує обчислення за реальніший час. Кожній гіпотезі надається голос, пропорційний імовірності того, що тренувальні дані буде взято із системи, якщо гіпотеза була б істинною. Для отримання тренувальних даних скінченного розміру голос кожної гіпотези множиться на апріорну можливість такої гіпотези. Баєсів оптимальний класифікатор можна виразити такою рівністю:

: <math>y=\underset{c_j \in C}{\mathrm{argmax}} \sum_{h_i \in H}{P(c_j|h_i)P(T|h_i)P(h_i)}</math> ,

де <math>y</math>&nbsp;— передбачений клас, <math>C</math>&nbsp;— множина всіх можливих класів, <math>H</math>&nbsp;— клас гіпотез, <math>P</math>&nbsp;— ''ймовірність'', <math>T</math>&nbsp;— тренувальні дані. Як ансамбль, баєсів оптимальний класифікатор представляє гіпотезу, яка не обов'язково належить до <math>H</math>. Гіпотеза, представлена баєсовим оптимальним класифікатором, однак, є оптимальною гіпотезою у ''просторі ансамблів'' (простір усіх можливих ансамблів, які складаються лише з гіпотез простору <math>H</math>).

Формулу можна переписати за допомогою [[Теорема Баєса|теореми Баєса]], яка свідчить, що постеріорна ймовірність пропорційна апріорній імовірності:

: <math>P(h_i|T) \propto P(T|h_i)P(h_i)</math>

звідки

: <math>y=\underset{c_j \in C}{\mathrm{argmax}} \sum_{h_i \in H}{P(c_j|h_i)P(h_i|T)}</math>

=== Беггінг ===
[[Бутстрепова агрегація|Бутстрепове агрегування]] (беггінг), надає кожній моделі в ансамблі однакову вагу (голос). Щоб підтримувати варіантність, беггінг тренує кожну модель в ансамблі за допомогою випадково відібраної підмножини з тренувальної множини. Наприклад, алгоритм «[[Random forest|випадкового лісу]]» комбінує випадкові дерева рішень із беггінгом, щоб отримати високу точність класифікації{{Sfn|Breiman|1996|с=123—140}}.

=== Підсилювання ===
{{Докладніше|Підсилювання (машинне навчання)}}[[Підсилювання (машинне навчання)|Підсилювання]] (''бустинг'') будує ансамбль послідовними приростами шляхом тренування кожної нової моделі, щоб виділити екземпляри, які попередні моделі класифікували помилково. Показано, що в деяких випадках підсилювання дає кращі результати, ніж бегінг, але має тенденцію до перенавчання на тренувальних даних. Найчастішою реалізацією підсилювання є алгоритм {{Нп|AdaBoost|3=en}}, хоча є повідомлення, що деякі нові алгоритми дають кращі результати.

=== Усереднення баєсових параметрів ===
Усереднення баєсівських параметрів ({{Lang-en|Bayesian parameter averaging}}, BPA)&nbsp;— це техніка складання ансамблю, за якої намагаються апроксимувати баєсівський оптимальний класифікатор шляхом вибірок із простору гіпотез і комбінування їх за допомогою закону Баєса{{Sfn|Hoeting, Madigan, Raftery, Volinsky|1999|с=382–401}}. На відміну від баєсівського оптимального класифікатора, баєсівську модель усереднення можна реалізувати практично. Гіпотези зазвичай відбирають за допомогою техніки [[Метод Монте-Карло|Монте-Карло]], такої як [[Аналіз Монте-Карло з використанням ланцюгів Маркова|MCMC]]. Наприклад, для вибирання гіпотез, які представляють розподіл <math>P(T|H)</math>, можна використати {{Нп|семплювання за Гіббсом|3=en|4=Gibbs sampling}}. Показано, що за деяких обставин, якщо гіпотези вибирають так і усереднюють згідно із законом Баєса, ця техніка має очікувану помилку, обмежену подвійною очікуваною помилкою баєсівського оптимального класифікатора{{Sfn|Haussler, Kearns, Schapire|1994|с=83–113}}. Попри теоретичну коректність цієї техніки, в ранніх роботах на основі експериментальних даних висловлено припущення, що метод схильний до перенавчання і поводиться гірше, ніж прості техніки складання ансамблю, такі як беггінг{{Sfn|Domingos|2000|с=223–-230}} . Однак ці висновки ґрунтуються на недостатньому розумінні мети баєсівської моделі усереднення (БМУ) для комбінації моделей{{Sfn|Minka|2002}}. Крім того, теорія та практика БМУ має суттєві переваги. Недавні строгі доведення показують точність БМУ для вибору змінних та оцінення за багатовимірних умов{{Sfn|Castillo, Schmidt-Hieber, van der Vaart|2015|с=1986–2018}} і дають емпіричне свідчення істотної ролі забезпечення розрідженості в БМУ в пом'якшенні перенавчання{{Sfn|Hernández-Lobato, Hernández-Lobato, Dupont|2013|с=1891–1945}}.

=== Комбінація баєсівських моделей ===
Комбінація баєсівських моделей (КБМ, {{Lang-en|Bayesian model combination}}, BMC)&nbsp;— це алгоритмічне виправлення баєсівської моделі усереднення (БМУ,{{Lang-en|Bayesian model averaging}}, BMA). Замість вибору кожної моделі до ансамблю індивідуально, алгоритм відбирає із простору можливих ансамблів (з вагами моделей, вибраних випадково з розподілу Діріхле з однорідними параметрами). Ця модифікація дозволяє уникнути тенденції БМУ віддати повну вагу одній моделі. Хоча КБМ обчислювально дещо витратніший порівняно з БМУ, він дає істотно кращі результати. Результати КБМ, як показано, в середньому кращі, ніж БМУ та беггінг{{Sfn|Monteith, Carroll, Seppi, Martinez|2011|с=2657—2663}}.

Використання для обчислення ваги моделі закону Баєса неминуче тягне за собою обчислення ймовірності даних для кожної моделі. Зазвичай жодна з моделей в ансамблі не має такого ж розподілу, що й тренувальні дані, з яких їх згенеровано, так що всі члени коректно набувають значення, близького до нуля. Це добре працювало б, якби ансамбль був досить великим для вибірки з повного простору моделей, але таке трапляється рідко. Отже, кожен представник тренувального набору спонукає вагу ансамблю зрушуватися до моделі в ансамблі, яка найближча до розподілу тренувальних даних. Це суттєво зменшує необхідність надмірно складного методу вибору моделі.

Можливі ваги для ансамблю можна уявити як такі, що лежать на симплексі. На кожній вершині симплексу всі ваги задаються окремою моделлю ансамблю. БМУ збігається до вершини, яка ближче за розподілом до тренувальних даних. Для контрасту, КБМ збігається до точки, де цей розподіл проєктується в симплекс. Іншими словами, замість вибору однієї моделі, найближчої до розподілу, метод шукає комбінацію моделей, найближчу до розподілу.

Часто результати БМУ можна апроксимувати за допомогою перехресної перевірки для вибору моделі із відра моделей. Аналогічно, результати КБМ можна апроксимувати за допомогою перехресної перевірки для вибору кращої комбінації ансамблів із випадкової вибірки можливих ваг.

=== Відро моделей ===
«Відро моделей» ({{Lang-en|bucket of models}})&nbsp;— це техніка збирання ансамблю, в якій використовують алгоритм вибору моделі для отримання кращої моделі для кожної задачі. Коли тестується лише одне завдання, відро моделей не може дати результату кращого, ніж найкраща модель у наборі, проте, в разі прогону для кількох задач, алгоритм зазвичай дає кращі результати, ніж будь-яка модель в наборі.

Найчастіше для вибору моделі використовують [[Перехресне затверджування|перехресну]] вибірку. Цей підхід описує такий псевдокод:
 Для кожної моделі у відрі:
  Виконати c разів: (де 'c' - деяка константа)
   Випадково ділимо тренувальні дані на два набори: A і B.
   Тренуємо m за A
   Перевіряємо m за B
 Вибираємо модель, яка покаже найвищий середній результат
Перехресну вибірку можна описати як: «прожени всі на тренувальній множині і вибери ту, що працює краще»{{Sfn|Dzeroski, Zenko|2004|с=255—273}}.

Виділення ({{Lang-en|Gating}}) є узагальненням перехресної вибірки. Метод залучає тренування іншої моделі навчання для вирішення, яка з моделей у відрі більше придатна для розв'язання задачі. Часто для виділення моделі використовують [[перцептрон]]. Його можна використати для вибору «найкращої» моделі, або для отримання лінійної ваги для передбачень кожної моделі у відрі.

Коли відро моделей використовують із великим набором задач, може бути бажаним уникнути тренування деяких моделей, які потребують тривалого тренування. Ландмарк-навчання&nbsp;— це метанавчальний підхід, який шукає розв'язок цієї задачі. Він залучає для тренування лише швидкі (але неточні) алгоритми, а потім їх ефективність використовують для визначення, який із повільних (але точних) алгоритмів вибрати як найкращий{{Sfn|Bensusan, Giraud-Carrier|2000|с=325—330}}.

=== Стогування ===
Стогування (іноді зване ''стековим узагальненням'') залучає тренування навчального алгоритму для комбінування передбачень кількох інших алгоритмів. Спочатку всі інші алгоритми тренуються за допомогою допустимих даних, потім алгоритми комбінування тренуються з метою зробити кінцевий прогноз за допомогою всіх прогнозів інших алгоритмів як додаткового входу. Якщо використовується довільний алгоритм комбінування, то стогування може теоретично представляти будь-яку техніку створення ансамблів, описану в цій статті, хоча на практиці як засіб алгоритму комбінування часто використовують модель [[Логістична регресія|логістичної регресії]].

Стогування зазвичай дає кращу ефективність, ніж будь-яка окрема з тренувальних моделей{{Sfn|Wolpert|1992|с=241—259}}. Його успішно використовують як у задачах навчання з учителем (регресії{{Sfn|Breiman|1996}}, класифікації та дистанційного навчання{{Sfn|Ozay, Vural|2013}}), так і задачах навчання без учителя (оцінення густини){{Sfn|Smyth, Wolpert|1999|с=59—83}}. Також його використовують для оцінки помилки беггінгу{{Sfn|Rokach|2010|с=1—39}}{{Sfn|Wolpert, Macready|1999|с=41—55}}. Стверджувалося, що метод перевершив баєсівську модель усереднення{{Sfn|Clarke|2003|с=683—712}}. Два призери {{Нп|Netflix Prize|конкурсу Netflix|en}} використовують ''змішування'', яке можна вважати формою стогування{{Sfn|Sill, Takacs, Mackey, Lin|2009}}.

== Реалізація у статистичних пакунках ==

* [[R (мова програмування)|R]]: щонайменше три пакунки пропонують засоби для баєсівської моделі усереднення{{Sfn|Amini, Parmeter|2011|с=253–287}}, а саме, пакет <tt>BMS</tt> (скорочення від Bayesian Model Selection)<ref>{{Cite web|title=BMS: Bayesian Model Averaging Library|website=The Comprehensive R Archive Network|url=https://cran.r-project.org/web/packages/BMS/index.html|accessdate=2016-09-09|archivedate=2020-11-28|archiveurl=https://web.archive.org/web/20201128112749/https://cran.r-project.org/web/packages/BMS/index.html|deadurl=no}}</ref>, пакет <tt>BAS</tt> (скорочення від Bayesian Adaptive Sampling)<ref>{{Cite web|title=BAS: Bayesian Model Averaging using Bayesian Adaptive Sampling|website=The Comprehensive R Archive Network|url=https://cran.r-project.org/web/packages/BAS/index.html|accessdate=2016-09-09|archivedate=2020-10-07|archiveurl=https://web.archive.org/web/20201007160436/https://cran.r-project.org/web/packages/BAS/index.html|deadurl=no}}</ref> та пакет <tt>BMA</tt><ref>{{Cite web|title=BMA: Bayesian Model Averaging|website=The Comprehensive R Archive Network|url=https://cran.r-project.org/web/packages/BMA/index.html|accessdate=2016-09-09|archivedate=2021-05-07|archiveurl=https://web.archive.org/web/20210507035034/https://cran.r-project.org/web/packages/BMA/index.html|deadurl=no}}</ref>. [https://www.h2o.ai/download/ Пакет H2O] пропонує багато моделей машинного навчання, включно з моделлю складання ансамблю, яку можна тренувати за допомогою [[Apache Spark|Spark]].
* [[Python]]: [[Scikit-learn]], пакунок для машинного навчання мовою Python, пропонує пакунки для ансамблевого навчання, зокрема, для беггінгу та методів усереднення.
* [[MATLAB]]: ансамблі класифікаторів реалізовано в наборі засобів Statistics та Machine Learning<ref>{{Cite web|title=Classification Ensembles|url=https://uk.mathworks.com/help/stats/classification-ensembles.html|website=MATLAB & Simulink|accessdate=2017-06-08|archivedate=2020-12-01|archiveurl=https://web.archive.org/web/20201201124509/https://uk.mathworks.com/help/stats/classification-ensembles.html|deadurl=no}}</ref>.

== Застосування ансамблевого навчання ==
У недавні роки, внаслідок зростання обчислювальної потужності, що дозволяє тренування великих навчальних ансамблів за розумний час, кількість застосувань суттєво зросла{{Sfn|Woźniak, Graña, Corchado|2014|с=3–17}}. Деякі з застосувань класифікаторів ансамблів наведено нижче.

=== Дистанційне зондування Землі ===

==== Відображення рослинного покриву ====
{{Не перекладено|Аналіз зображень|Відображення рослинного покриву|en|Image_analysis}} є одним із головних застосувань {{Не перекладено|Супутники спостереження за Землею|спостереження за Землею|en|Earth observation satellite}} з використанням дистанційного зондування та [[Геопросторові дані|геопросторових даних]] для розпізнавання об'єктів, розташованих на поверхні цільових ділянок. Як правило, класи цільового матеріалу включають дороги, будівлі, річки, озера та рослинність{{Sfn|Rodriguez-Galiano, Ghimire, Rogan и др.|2012|с=93–104}}. Запропоновано деякі різні підходи ансамблевого навчання, що базуються на [[Штучна нейронна мережа|штучних нейронних мережах]]{{Sfn|Giacinto, Roli|2001|с=699–707}}, {{Не перекладено|Ядерний метод головних компонент|ядерному методі головних компонент|en|kernel principal component analysis}} ({{Lang-en|kernel principal component analysis}}, KPCA){{Sfn|Xia, Yokoya, Iwasaki|2017|с=6185—6189}}, [[Дерево ухвалення рішень|деревах рішень]] із [[Підсилювання (машинне навчання)|підсилюванням]]{{Sfn|Mochizuki, Murakami|2012|с=126—133}}, [[Random forest|випадкових лісах]]{{Sfn|Rodriguez-Galiano, Ghimire, Rogan и др.|2012|с=93–104}} і автоматичному створення кількох систем класифікаторів{{Sfn|Giacinto, Roli, Fumera|2000|с=160—163}}, для ефективного розпізнавання об'єктів [[Рослинність|рослинного покриву]].

==== Виявлення змін ====
{{Не перекладено|Виявлення змін (GIS)|Виявлення змін|en|Change detection (GIS)}}&nbsp;— це задача {{Не перекладено|Аналіз зображень|аналізу зображень|en|image analysis}}, яка полягає в ідентифікації місць, де [[Рослинність|рослинний покрив]] із змінився. Застосовується в таких галузях, как [[зростання міст]], {{Не перекладено|Динаміка змін у лісах|динаміка змін у лісах і рослинності|en|Forest dynamics}}, [[землекористування]] та {{Не перекладено|Супутникове групування спостереження стихійних лих|виявлення стихійних лих|en|Disaster Monitoring Constellation}}{{Sfn|Du, Liu, Xia, Zhao|2013|с=19–27}}. Ранні застосування ансамблів класифікаторів до визначення змін розробляли за допомогою {{Не перекладено|Мажоритарне правило|голосування більшістю голосів|en|majority voting}}, [[Баєсова ймовірність|баєсового середнього]] та [[Оцінка апостеріорного максимуму|оцінення апостеріорного максимуму]]{{Sfn|Bruzzone, Cossu, Vernazza|2002|с=289–297}}.

=== Захист комп'ютера ===

==== DoS-атака ====
[[DoS-атака|Розподілена атака типу «відмова в обслуговуванні»]] є однією з найзагрозливіших [[Кібератака|кібератак]], яка може трапитися з [[Постачальник послуг Інтернету|інтернет-провайдером]]{{Sfn|Woźniak, Graña, Corchado|2014|с=3–17}}. Комбінуючи виходи окремих класифікаторів ансамбль класифікаторів знижує загальну помилку детектування та відокремлення таких атак від законних {{Нп|Слешдот-ефект|флешмобів|en|Slashdot effect}}{{Sfn|Raj Kumar, Selvakumar|2011|с=1328–1341}}.

==== Виявлення шкідливих програм ====
Класифікація кодів [[Шкідливий програмний засіб|шкідливих програм]], таких як [[Комп'ютерний вірус|комп'ютерні віруси]], [[Комп'ютерний хробак|мережеві хробаки]], [[Троянський кінь|трояни]], [[Ransomware|віруси-вимагачі]] та [[Spyware|програми-шпигуни]], за допомогою технік машинного навчання, навіяна задачею [[Класифікація документів|класифікування документів]]{{Sfn|Shabtai, Moskovitch, Elovici, Glezer|2009|с=16–29}}. Системи ансамблевого навчання показали в цій галузі надійну ефективність{{Sfn|Zhang, Yin, Hao, Zhang, Wang|2007|с=468—477}}{{Sfn|Menahem, Shabtai, Rokach, Elovici|2009|с=1483–1494}}.

==== Виявлення вторгнень ====
[[Система виявлення вторгнень]] відстежує [[Комп'ютерна мережа|комп'ютерну мережу]] чи [[комп'ютер]]и для ідентифікації кодів вторгнення, подібно до процесу [[виявлення аномалій]]. Ансамблеве навчання успішно допомагає таким системам скорочувати загальну кількість помилок{{Sfn|Locasto, Wang, Keromytis, Salvatore|2005|с=82—101}}{{Sfn|Giacinto, Perdisci, Del Rio, Roli|2008|с=69–82}}.

=== Розпізнавання облич ===
[[Виявлення обличчя|Розпізнавання облич]], яке нещодавно стало популярною областю досліджень у [[Теорія розпізнавання образів|розпізнаванні образів]], справляється з ідентифікацією або верифікацією особи за його/її [[Цифрове зображення|цифровим зображенням]]{{Sfn|Mu, Lu, Watta, Hassoun|2009}}.

Ієрархічні ансамблі, засновані на класифікаторі Габора Фішера та техніках [[Попередня обробка даних|попередньої обробки даних]] під час {{Не перекладено|Аналіз незалежних компонентів|аналізу незалежних компонентів|en|Independent component analysis}}, належать до ранніх прикладів використання ансамблів у цій галузі{{Sfn|Yu, Shan, Chen, Gao|2006|с=91—96}}{{Sfn|Yu, Shan, Chen, Gao|2006|с=528—531}}{{Sfn|Liu, Lin, Chen|2008|с=144—148}}.

=== Розпізнавання емоцій ===
Тоді як [[Розпізнавання мовлення|розпізнавання мови]] переважно ґрунтується на [[Глибоке навчання|глибокому навчанні]], оскільки більшість індустріальних гравців у цій галузі, такі як [[Google]], [[Microsoft]] і [[IBM]], використовують його як основу технології [[розпізнавання мовлення]], засноване на розмові [[розпізнавання емоцій]] може мати задовільні показники з ансамблевим навчанням{{Sfn|Rieger, Muraleedharan, Ramachandran|2014|с=589—593}}{{Sfn|Krajewski, Batliner, Kessel|2010|с=3716—3719}}.

Метод також успішно використовувався для розпізнаванні емоцій на обличчі{{Sfn|Rani, Muneeswaran|2016|с=10017–10040}}{{Sfn|Rani, Muneeswaran|2016|с=1655020}}{{Sfn|Rani, Muneeswaran|2018}}.

=== Виявлення шахрайства ===
[[Шахрайство|Виявлення шахрайства]] включає ідентифікацію {{Не перекладено|Банківське шахрайство|банківського шахрайства|en|bank fraud}} , такого як [[відмивання грошей]], [[Кардинг|шахрайство з платіжними картками]], та телекомунікаційного шахрайства. Виявлення шахрайства має широкі можливості для дослідження та застосування машинного навчання. Оскільки ансамблеве навчання покращує стійкість нормальної поведінки моделі, його запропоновано як ефективну техніку визначення таких випадків шахрайства та підозрілої активності в банківських операціях у системах кредитних карток{{Sfn|Louzada, Ara|2012|с=11583–11592}}{{Sfn|Sundarkumar, Ravi|2015|с=368–377}}.

=== Ухвалення фінансових рішень ===
У процесі прийняття фінансових рішень ажливоют є очність передбачення комерційного краху, тому для передбачення [[Фінансова криза|фінансових криз]] та {{Не перекладено|Фінансовий крах|фінансових крахів|en|financial distress}} запропоновано різні ансамблі класифікаторів{{Sfn|Kim, Sohn|2012|с=8986–8992}}. Також у задачі [[Маніпулювання на ринку|маніпуляюванняна основі торгів]], де [[трейдер]]и намагаються маніпулювати [[Акція (цінний папір)|цінами акцій]] шляхом купівлі або продажу, ансамблюькласифікаторів пмаєпроаналізувати зміни в даних на [[Фондовий ринок|ринку цінних паперів]] та визначити симптоми підозрілих [[Маніпулювання на ринку|маніпуляцій]] зі [[Акція (цінний папір)|цінами акцій]] {{Sfn|Kim, Sohn|2012|с=8986–8992}}.

=== Медицина ===
Систему класифікаторів успішно застосовано в [[нейронаука]]х, [[Протеоміка|протеоміці]] та [[Медична діагностика|медичній діагностиці]], зокрема, для розпізнавання {{Не перекладено|Нейрокогнітивні функції|нейрокогнітивних розладів|en|neurocognitive}} (тобто, [[Хвороба Альцгеймера|хвороби Альцгеймера]] або {{Не перекладено|Міотонічна дистрофія|міотонічної дистрофії|en|myotonic dystrophy}}) заснованого на даних [[Магнітно-резонансна томографія|магнітно-резонансної томографії]]{{Sfn|Savio, García-Sebastián, Chyzyk и др.|2011|с=600–610}}{{Sfn|Ayerdi, Savio, Graña|2013|с=122—130}}{{Sfn|Gu, Ding, Zhang|2015|с=110–118}}, або класифікація цитології шийки матки на основі мікроскопії<ref>{{Стаття|url=https://ieeexplore.ieee.org/document/9107128/|author=Dan Xue, Xiaomin Zhou, Chen Li, Yudong Yao, Md Mamunur Rahaman|title=An Application of Transfer Learning and Ensemble Learning Techniques for Cervical Histopathology Image Classification|рік=2020|видання=IEEE Access|том=8|pages=104603–104618|issn=2169-3536|doi=10.1109/ACCESS.2020.2999816|archivedate=2021-08-31|archiveurl=https://web.archive.org/web/20210831210606/https://ieeexplore.ieee.org/document/9107128/}}</ref><ref>{{Стаття|url=http://www.nature.com/articles/s41598-021-93783-8|author=Ankur Manna, Rohit Kundu, Dmitrii Kaplun, Aleksandr Sinitca, Ram Sarkar|title=A fuzzy rank-based ensemble of CNN models for classification of cervical cytology|date=2021-12|language=en|видання=Scientific Reports|том=11|issue=1|pages=14538|issn=2045-2322|doi=10.1038/s41598-021-93783-8|archivedate=2021-08-31|archiveurl=https://web.archive.org/web/20210831210752/https://www.nature.com/articles/s41598-021-93783-8}}</ref>.

== Див. також ==

* {{Не перекладено|Ансамблеве усереднення (машинне навчання)||en|Ensemble averaging (machine learning)}}
* [[Баєсів структурний часовий ряд]] (BSTS)

== Примітки ==
{{Reflist}}

== Література ==

* {{Стаття|author=Opitz D., Maclin R.|ref=Opitz, Maclin|title=Popular ensemble methods: An empirical study|видання=[[Journal of Artificial Intelligence Research]]|том=11|pages=169—198|рік=1999|doi=10.1613/jair.614}}
* {{Стаття|author=Polikar R.|ref=Polikar|title=Ensemble based systems in decision making|видання=IEEE Circuits and Systems Magazine|том=6|issue=3|pages=21—45|рік=2006|doi=10.1109/MCAS.2006.1688199}}
* {{Стаття|ref=Rokach|author=Rokach L.|title=Ensemble-based classifiers|видання=Artificial Intelligence Review|том=33|issue=1—2|рік=2010|doi=10.1007/s10462-009-9124-7}}
* {{Стаття|author=Kuncheva L., Whitaker C.|ref=Kuncheva, Whitaker|title=Measures of diversity in classifier ensembles and Their Relationship with the Ensemble Accuracy|видання=Machine Learning|том=51|issue=2|рік=2003}}
* {{Стаття|author=Sollich P., Krogh A.|ref=Sollich, Krogh|title=Learning with ensembles: How overfitting can be useful|видання=Advances in Neural Information Processing Systems|том=8|рік=1996}}
* {{Стаття|author=Brown G., Wyatt J., Harris R., Yao X.|ref=Brown, Wyatt, Harris, Yao|title=Diversity creation methods: a survey and categorization|видання=Information Fusion|том=6|issue=1|рік=2005}}
* {{Стаття|url=http://www.clei.cl/cleiej/papers/v8i2p1.pdf|title=Accuracy and Diversity in Ensembles of Text Categorisers|author=J. J. García Adeva, Ulises Cerviño, R. Calvo|ref=Adeva, Cerviño, Calvo|видання=CLEI Journal|том=8|issue=2|місяць=December|рік=2005|archiveurl=https://web.archive.org/web/20110707010133/http://www.clei.cl/cleiej/papers/v8i2p1.pdf|archivedate=2011-07-07}}
* {{Книга
|автор = Ho T.
|ref = Ho
|частина = Random Decision Forests
|заголовок = Proceedings of the Third International Conference on Document Analysis and Recognition
|рік = 1995
}}
* {{Книга
|автор = Gashler M., Giraud-Carrier C., Martinez T.
|ref = Gashler, Giraud-Carrier, Martinez
|посилання = http://ieeexplore.ieee.org/search/wrapper.jsp?arnumber=4796917
|частина = Decision Tree Ensemble: Small Heterogeneous Is Better Than Large Homogeneous
|заголовок = The Seventh International Conference on Machine Learning and Applications
|рік = 2008
|doi = 10.1109/ICMLA.2008.154
}}
* {{Книга
|посилання = http://dl.acm.org/citation.cfm?id=2983907
|частина = A Theoretical Framework on the Ideal Number of Classifiers for Online Ensembles in Data Streams
|автор = Hamed R. Bonab, Fazli Can
|ref = Bonab, Can
|рік = 2016
|видавництво = ACM
|місце = USA
|doi = 10.1145/2983323.2983907
|заголовок = 25th Conference on Information and Knowledge Management
}}
* {{Книга
|посилання = https://arxiv.org/pdf/1709.02925.pdf
|частина = Less Is More: A Comprehensive Framework for the Number of Components of Ensemble Classifiers
|автор = Hamed R. Bonab, Fazli Can
|ref = Bonab, Can
|рік = 2017
|видавництво = IEEE
|місце = USA
|заголовок = IEEE Transactions on Neural Networks and Learning Systems 2017
}}
* {{Книга
|автор = [[Том Мітчелл|Tom M. Mitchell]]
|ref = Mitchell
|рік = 1997
|видавництво = McGraw-Hill Science/Engeneering/Math
|ISBN = 0070428077
|назва = Machine Learning
}}
* {{Стаття|author=Breiman, L.|ref=Breiman|title=Bagging Predictors|видання=Machine Learning|том=24|issue=2|рік=1996}}
* {{Стаття|author=Hoeting J. A., Madigan D., Raftery A. E., Volinsky C. T.|ref=Hoeting, Madigan, Raftery, Volinsky|title=Bayesian Model Averaging: A Tutorial|doi=10.2307/2676803|видання=Statistical Science|том=14|issue=4|рік=1999}}
* {{Стаття|author=David Haussler, Michael Kearns, Robert E. Schapire|ref=Haussler, Kearns, Schapire|title=Bounds on the sample complexity of Bayesian learning using information theory and the VC dimension|видання=Machine Learning|том=14|рік=1994}}
* {{Книга
|автор = Pedro Domingos
|ref = Domingos
|частина = Bayesian averaging of classifiers and the overfitting problem
|заголовок = Proceedings of the 17th [[International Conference on Machine Learning|International Conference on Machine Learning (ICML)]]
|сторінки = 223——230
|рік = 2000
|посилання = http://www.cs.washington.edu/homes/pedrod/papers/mlc00b.pdf
}}
* {{Стаття|author=Thomas Minka|ref=Minka|title=Bayesian model averaging is not model combination|рік=2002|url=http://research.microsoft.com/en-us/um/people/minka/papers/minka-bma-isnt-mc.pdf}}
* {{Стаття|author=Castillo I., Schmidt-Hieber J., van der Vaart A.|ref=Castillo, Schmidt-Hieber, van der Vaart|title=Bayesian linear regression with sparse priors|видання=[[Annals of Statistics]]|том=43|issue=5|рік=2015|doi=10.1214/15-AOS1334|arxiv=1403.0735}}
* {{Стаття|author=Hernández-Lobato D., Hernández-Lobato J. M., Dupont P.|ref=Hernández-Lobato, Hernández-Lobato, Dupont|title=Generalized Spike-and-Slab Priors for Bayesian Group Feature Selection Using Expectation Propagation|видання=Journal of Machine Learning Research|том=14|рік=2013|url=http://www.jmlr.org/papers/volume14/hernandez-lobato13a/hernandez-lobato13a.pdf}}
* {{Книга
|автор = Kristine Monteith, James Carroll, Kevin Seppi, Tony Martinez
|ref = Monteith, Carroll, Seppi, Martinez
|посилання = http://axon.cs.byu.edu/papers/Kristine.ijcnn2011.pdf
|частина = Turning Bayesian Model Averaging into Bayesian Model Combination
|заголовок = Proceedings of the International Joint Conference on Neural Networks IJCNN'11
|рік = 2011
|сторінки = 2657—2663
}}
* {{Стаття|author=Saso Dzeroski, Bernard Zenko|ref=Dzeroski, Zenko|url=http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.108.6096|title=Is Combining Classifiers Better than Selecting the Best One|видання=Machine Learning|рік=2004}}
* {{Книга
|автор = Hilan Bensusan, Christophe G. Giraud-Carrier
|ref = Bensusan, Giraud-Carrier
|частина = Discovering Task Neighbourhoods Through Landmark Learning Performances
|заголовок = PKDD '00: Proceedings of the 4th European Conference on Principles of Data Mining and Knowledge Discovery
|видавництво = Springer-Verlag
|рік = 2000
}}
* {{Стаття|author=Smyth P., Wolpert D. H.|ref=Smyth, Wolpert|title=Linearly Combining Density Estimators via Stacking|видання=Machine Learning Journal|том=36|рік=1999}}
* {{Стаття|author=Wolpert D.H., Macready W.G.|ref=Wolpert, Macready|title=An Efficient Method to Estimate Bagging’s Generalization Error|видання=Machine Learning Journal|том=35|рік=1999}}
* {{Стаття|author=Clarke B.|ref=Clarke|title=Bayes model averaging and stacking when model approximation error cannot be ignored|видання=Journal of Machine Learning Research|рік=2003}}
* {{Стаття|author=Wolpert D.|ref=Wolpert|title=Stacked Generalization|видання=Neural Networks|том=5|issue=2|рік=1992}}
* {{Стаття|author=Breiman L.|ref=Breiman|title=Stacked Regression|видання=Machine Learning|том=24|рік=1996|doi=10.1007/BF00117832}}
* {{Стаття|author=Ozay M., Yarman Vural F. T.|ref=Ozay, Vural|title=A New Fuzzy Stacked Generalization Technique and Analysis of its Performance|рік=2013|arxiv=1204.0171|bibcode=2012arXiv1204.0171O}}
* {{Стаття|author=Sill J., Takacs G., Mackey L., Lin D.|ref=Sill, Takacs, Mackey, Lin|title=Feature-Weighted Linear Stacking|рік=2009|arxiv=0911.0460|bibcode=2009arXiv0911.0460S}}
* {{Стаття|author=Shahram M. Amini, Christopher F. Parmeter|ref=Amini, Parmeter|title=Bayesian model averaging in R|видання=Journal of Economic and Social Measurement|том=36|issue=4|рік=2011|url=https://core.ac.uk/download/pdf/6494889.pdf}}
* {{Стаття|author=Michał Woźniak, Manuel Graña, Emilio Corchado|ref=Woźniak, Graña, Corchado|title=A survey of multiple classifier systems as hybrid systems|видання=Information Fusion|місяць=March|рік=2014|том=16|doi=10.1016/j.inffus.2013.04.006}}
* {{Стаття|author=Rodriguez-Galiano V.F., Ghimire B., Rogan J., Chica-Olmo, M., Rigol-Sanchez J.P.|ref=Rodriguez-Galiano, Ghimire, Rogan и др.|title=An assessment of the effectiveness of a random forest classifier for land-cover classification|видання=ISPRS Journal of Photogrammetry and Remote Sensing|рік=2012|том=67|doi=10.1016/j.isprsjprs.2011.11.002|bibcode=2012JPRS...67...93R}}
* {{Стаття|author=Giorgio Giacinto, Fabio Roli|ref=Giacinto, Roli|title=Design of effective neural network ensembles for image classification purposes|видання=Image and Vision Computing|місяць=August|рік=2001|том=19|issue=9—10|doi=10.1016/S0262-8856(01)00045-2}}
* {{Стаття|author=Junshi Xia, Naoto Yokoya, Yakira Iwasaki|ref=Xia, Yokoya, Iwasaki|title=A novel ensemble classifier of hyperspectral and LiDAR data using morphological features|видання=2017 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)|місяць=March|рік=2017|doi=10.1109/ICASSP.2017.7953345}}
* {{Стаття|author=Mochizuki S., Murakami T.|ref=Mochizuki, Murakami|title=Accuracy comparison of land cover mapping using the object-oriented image classification with machine learning algorithms|видання=33rd Asian Conference on Remote Sensing 2012, ACRS 2012|місяць=November|рік=2012|том=1}}
* {{Стаття|author=Giacinto G., Roli F., Fumera G.|ref=Giacinto, Roli, Fumera|title=Design of effective multiple classifier systems by clustering of classifiers|видання=Proceedings 15th International Conference on Pattern Recognition. ICPR-2000|місяць=September|рік=2000|doi=10.1109/ICPR.2000.906039}}
* {{Стаття|author=Peijun Du, Sicong Liu, Junshi Xia, Yindi Zhao|ref=Du, Liu, Xia, Zhao|title=Information fusion techniques for change detection from multi-temporal remote sensing images|видання=Information Fusion|місяць=January|рік=2013|том=14|issue=1|doi=10.1016/j.inffus.2012.05.003}}
* {{Стаття|author=Lorenzo Bruzzone, Roberto Cossu, Gianni Vernazza|ref=Bruzzone, Cossu, Vernazza|title=Combining parametric and non-parametric algorithms for a partially unsupervised classification of multitemporal remote-sensing images|видання=Information Fusion|місяць=December|рік=2002|том=3|issue=4|doi=10.1016/S1566-2535(02)00091-X}}
* {{Стаття|author=P. Arun Raj Kumar, S. Selvakumar|ref=Raj Kumar, Selvakumar|title=Distributed denial of service attack detection using an ensemble of neural classifier|видання=Computer Communications|місяць=July|рік=2011|том=34|issue=11|doi=10.1016/j.comcom.2011.01.012}}
* {{Стаття|author=Asaf Shabtai, Robert Moskovitch, Yuval Elovici, Chanan Glezer|ref=Shabtai, Moskovitch, Elovici, Glezer|title=Detection of malicious code by applying machine learning classifiers on static features: A state-of-the-art survey|видання=Information Security Technical Report|місяць=February|рік=2009|том=14|issue=1|doi=10.1016/j.istr.2009.03.003}}
* {{Стаття|author=Boyun Zhang, Jianping Yin, Jingbo Hao, Dingxing Zhang, Shulin Wang|ref=Zhang, Yin, Hao, Zhang, Wang|title=Malicious Codes Detection Based on Ensemble Learning|видання=Autonomic and Trusted Computing|рік=2007|doi=10.1007/978-3-540-73547-2_48}}
* {{Стаття|author=Eitan Menahem, Asaf Shabtai, Lior Rokach, Yuval Elovici|ref=Menahem, Shabtai, Rokach, Elovici|title=Improving malware detection by applying multi-inducer ensemble|видання=Computational Statistics & Data Analysis|місяць=February|рік=2009|том=53|issue=4|doi=10.1016/j.csda.2008.10.015}}
* {{Стаття|author=Michael E. Locasto, Ke Wang, Angeles D. Keromytis, J. Stolfo Salvatore|ref=Locasto, Wang, Keromytis, Salvatore|title=FLIPS: Hybrid Adaptive Intrusion Prevention|видання=Recent Advances in Intrusion Detection|рік=2005|doi=10.1007/11663812_5}}
* {{Стаття|author=Giorgio Giacinto, Roberto Perdisci, Mauro Del Rio, Fabio Roli|ref=Giacinto, Perdisci, Del Rio, Roli|title=Intrusion detection in computer networks by a modular ensemble of one-class classifiers|видання=Information Fusion|місяць=January|рік=2008|том=9|issue=1|doi=10.1016/j.inffus.2006.10.002}}
* {{Стаття|author=Xiaoyan Mu, Jiangfeng Lu, Paul Watta, Mohamad H. Hassoun|ref=Mu, Lu, Watta, Hassoun|title=Weighted voting-based ensemble classifiers with application to human face recognition and voice recognition|видання=2009 International Joint Conference on Neural Networks|місяць=July|рік=2009|doi=10.1109/IJCNN.2009.5178708}}
* {{Стаття|author=Su Yu, Shiguang Shan, Xilin Chen, Wen Gao|ref=Yu, Shan, Chen, Gao|title=Hierarchical ensemble of Gabor Fisher classifier for face recognition|видання=Automatic Face and Gesture Recognition, 2006. FGR 2006. 7th International Conference on Automatic Face and Gesture Recognition (FGR06)|місяць=April|рік=2006|doi=10.1109/FGR.2006.64}}
* {{Стаття|author=Su Yu, Shiguang Shan, Xilin Chen, Wen Gao|ref=Yu, Shan, Chen, Gao|title=Patch-based gabor fisher classifier for face recognition|видання=Proceedings - International Conference on Pattern Recognition|місяць=September|рік=2006|том=2|doi=10.1109/ICPR.2006.917}}
* {{Стаття|author=Yang Liu, Yongzheng Lin, Yuehui Chen|ref=Liu, Lin, Chen|title=Ensemble Classification Based on ICA for Face Recognition|видання=Proceedings - 1st International Congress on Image and Signal Processing, IEEE Conference, CISP 2008|місяць=July|рік=2008|doi=10.1109/CISP.2008.581|url=https://ieeexplore.ieee.org/document/4566462/?part=1%7Csec1}}
* {{Книга
|автор = Steven A. Rieger, Rajani Muraleedharan, Ravi P. Ramachandran
|ref = Rieger, Muraleedharan, Ramachandran
|частина = Speech based emotion recognition using spectral feature extraction and an ensemble of kNN classifiers
|заголовок = Proceedings of the 9th International Symposium on Chinese Spoken Language Processing, ISCSLP 2014
|рік = 2014
|doi = 10.1109/ISCSLP.2014.6936711
}}
* {{Книга
|автор = Jarek Krajewski, Anton Batliner, Silke Kessel
|ref = Krajewski, Batliner, Kessel
|частина = Comparing Multiple Classifiers for Speech-Based Detection of Self-Confidence - A Pilot Study
|заголовок = 20th International Conference on Pattern Recognition
|рік = 2010
|doi = 10.1109/ICPR.2010.905
}}
* {{Стаття|author=P. Ithaya Rani, K. Muneeswaran|ref=Rani, Muneeswaran|title=Recognize the facial emotion in video sequences using eye and mouth temporal Gabor features|видання=Multimedia Tools and Applications|місяць=May|рік=2016|том=76|issue=7|doi=10.1007/s11042-016-3592-y}}
* {{Стаття|author=P. Ithaya Rani, K. Muneeswaran|ref=Rani, Muneeswaran|title=Facial Emotion Recognition Based on Eye and Mouth Regions|видання=International Journal of Pattern Recognition and Artificial Intelligence|місяць=August|рік=2016|том=30|issue=07|doi=10.1142/S021800141655020X}}
* {{Стаття|author=P. Ithaya Rani, K. Muneeswaran|ref=Rani, Muneeswaran|title=Emotion recognition based on facial components|видання=Sādhanā|місяць=March|рік=2018|том=43|issue=3|doi=10.1007/s12046-018-0801-6}}
* {{Стаття|author=Francisco Louzada, Anderson Ara|ref=Louzada, Ara|title=Bagging k-dependence probabilistic networks: An alternative powerful fraud detection tool|видання=Expert Systems with Applications|місяць=October|рік=2012|том=39|issue=14|doi=10.1016/j.eswa.2012.04.024}}
* {{Стаття|author=G. Ganesh Sundarkumar, Vadlamani Ravi|ref=Sundarkumar, Ravi|title=A novel hybrid undersampling method for mining unbalanced datasets in banking and insurance|видання=Engineering Applications of Artificial Intelligence|місяць=January|рік=2015|том=37|doi=10.1016/j.engappai.2014.09.019}}
* {{Стаття|author=Yoonseong Kim, So Young Sohn|ref=Kim, Sohn|title=Stock fraud detection using peer group analysis|видання=Expert Systems with Applications|місяць=August|рік=2012|том=39|issue=10|doi=10.1016/j.eswa.2012.02.025}}
* {{Стаття|author=Savio A., García-Sebastián M.T., Chyzyk D., Hernandez C., Graña M., Sistiaga A., López de Munain A., Villanúa J.|ref=Savio, García-Sebastián, Chyzyk и др.|title=Neurocognitive disorder detection based on feature vectors extracted from VBM analysis of structural MRI|видання=Computers in Biology and Medicine|місяць=August|рік=2011|том=41|issue=8|doi=10.1016/j.compbiomed.2011.05.010}}
* {{Стаття|author=Ayerdi B., Savio A., Graña M.|ref=Ayerdi, Savio, Graña|title=Meta-ensembles of classifiers for Alzheimer's disease detection using independent ROI features|видання=Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics)|місяць=June|рік=2013|issue=Part 2|doi=10.1007/978-3-642-38622-0_13}}
* {{Стаття|author=Quan Gu, Yong-Sheng Ding, Tong-Liang Zhang|ref=Gu, Ding, Zhang|title=An ensemble classifier based prediction of G-protein-coupled receptor classes in low homology|видання=Neurocomputing|місяць=April|рік=2015|том=154|doi=10.1016/j.neucom.2014.12.013}}
* {{Книга
|автор = Zhou Zhihua
|рік = 2012
|заголовок = Ensemble Methods: Foundations and Algorithms
|видавництво = Chapman and Hall/CRC
|ISBN = 978-1-439-83003-1
}}
* {{Книга
|автор = Robert Schapire, Yoav Freund
|рік = 2012
|заголовок = Boosting: Foundations and Algorithms
|видавництво = MIT
|ISBN = 978-0-262-01718-3
}}{{Бібліоінформація}}
[[Категорія:Ансамблеве навчання]]