Перегляд вихідного коду сторінки Передавальне навчання

{{Короткий опис|застосування попередньо навченого знання до нових задач}}
'''Передава́льне навча́ння''' ('''ПН''', {{lang-en|transfer learning, TL}})&nbsp;— це дослідницька задача в [[Машинне навчання|машинному навчанні]] (МН), зосереджена на зберіганні знань, отриманих під час розв'язання однієї задачі, та застосуванні їх до іншої, але пов'язаної задачі.<ref>{{Cite web|last=West|first=Jeremy|first2=Dan|last2=Ventura|first3=Sean|last3=Warnick|url=http://cpms.byu.edu/springresearch/abstract-entry?id=861|title=Spring Research Presentation: A Theoretical Foundation for Inductive Transfer|publisher=Brigham Young University, College of Physical and Mathematical Sciences|year=2007|accessdate=2007-08-05|archiveurl=https://web.archive.org/web/20070801120743/http://cpms.byu.edu/springresearch/abstract-entry?id=861|archivedate=2007-08-01}} {{ref-en}}</ref><ref>{{cite thesis|last=Ткаченко|first=Д.&nbsp;А.|year=2018|title=Розподілене глибинне навчання для інтелектуального аналізу відео|type=магістерська дисертація|publisher=[[НТУУ «КПІ ім. Ігоря Сікорського»]]|url=https://ela.kpi.ua/bitstream/123456789/26902/1/Tkachenko_magistr.pdf|access-date=2021-04-04}}</ref> Наприклад, знання, отримані під час навчання [[Комп'ютерний зір#Розпізнавання|розпізнаванню]] легкових автомобілів, може бути застосовано при намаганні розпізнавати вантажівки. Цей напрямок досліджень має певне відношення до тривалої історії психологічної літератури з [[Передача навчання|передавання навчання]], хоча практичні зв'язки між цими двома напрямами є обмеженими. З практичної точки зору, повторне використання або передавання інформації з раніше навчених задач для навчання нових задач має потенціал значно покращувати ефективність вибірки агента [[навчання з підкріпленням]].<ref>{{Cite journal|last=George Karimpanal|first=Thommen|last2=Bouffanais|first2=Roland|date=2019|title=Self-organizing maps for storage and transfer of knowledge in reinforcement learning|journal=Adaptive Behavior|volume=27|issue=2|pages=111–126|arxiv=1811.08318|doi=10.1177/1059712318818568|issn=1059-7123}} {{ref-en}}</ref>

== Історія ==
{{Зваженість|Цей розділ|дата=квітень 2021}}
<!--Надмірне використання публікацій Лорієна Пратта, ймовірно редактором з конфліктом інтересів. Незбалансований погляд на історію цієї теми потребує ширшого спектру джерел.-->

1976 року Стево Бозіновський та Анте Фулгосі опублікували працю, в якій чітко розглянуто питання передавального навчання в тренуванні нейронних мереж.<ref>Stevo. Bozinovski and Ante Fulgosi (1976). "The influence of pattern similarity and transfer learning upon the training of a base perceptron B2." (original in Croatian) Proceedings of Symposium Informatica 3-121-5, Bled. {{ref-en}}</ref><ref>Stevo Bozinovski (2020) "Reminder of the first paper on transfer learning in neural networks, 1976". Informatica 44: 291–302. {{ref-en}}</ref> У цій праці наведено математичну та геометричну модель передавального навчання. 1981 року було зроблено звіт про застосування передавального навчання в тренуванні нейронної мережі на наборі зображень, що представляють літери комп'ютерних терміналів. Було експериментально продемонстровано як позитивне, так і негативне передавальне навчання.<ref>S. Bozinovski (1981). "Teaching space: A representation concept for adaptive pattern classification." COINS Technical Report, the University of Massachusetts at Amherst, No 81-28 [available online: UM-CS-1981-028.pdf] {{ref-en}}</ref>

1993 року Лоріен Пратт опублікував статтю про передавання в [[Машинне навчання|машиннім навчанні]], сформулювавши алгоритм передавання на основі розрізнювальності ({{lang-en|discriminability-based transfer, DBT}}).<ref>{{Cite book
|url={{google books|plainurl=y|id=6tGHlwEACAAJ|page=204}}
|title=NIPS Conference: Advances in Neural Information Processing Systems 5
|last=Pratt
|first=L. Y.
|year=1993
|publisher=Morgan Kaufmann Publishers
|pages=204–211
|chapter=Discriminability-based transfer between neural networks
}} {{ref-en}}</ref>

1997 року Пратт та [[Себастьян Трун]] стали запрошеними редакторами спеціального випуску журналу ''«[[Machine Learning (журнал)|Machine Learning]]»'', присвяченого передавальному навчанню,<ref>{{Cite web|url=https://link.springer.com/journal/10994/28/1/page/1|title=Machine Learning - Special Issue on Inductive Transfer|last=Pratt|first=L. Y.|last2=Thrun|first2=Sebastian|date=July 1997|website=link.springer.com|publisher=Springer|accessdate=2017-08-10}}{{cbignore}} {{ref-en}}</ref> а до 1998 року ця галузь розвинулася до включення {{нп|Багатозадачне навчання|багатозадачного навчання||Multi-task learning}}<ref>Caruana, R., "Multitask Learning", pp. 95-134 in {{Harvnb|Thrun|Pratt|2012}} {{ref-en}}</ref> а також більш формального аналізу теоретичних основ.<ref>Baxter, J., "Theoretical Models of Learning to Learn", pp. 71-95 {{Harvnb|Thrun|Pratt|2012}} {{ref-en}}</ref> «Вчитися вчитися»{{Sfn|Thrun|Pratt|2012}} під редакцією Труна та Пратта&nbsp;— це огляд цієї теми 1998 року.

Передавальне навчання знайшло застосування також і в [[Когнітивістика|когнітивістиці]], а Пратта також запрошували 1996 року редагувати випуск журналу ''«Connection Science»'' про повторне використання нейронних мереж через передавання.<ref>{{Cite journal|last=Pratt|first=L.|year=1996|title=Special Issue: Reuse of Neural Networks through Transfer|url=http://www.tandfonline.com/toc/ccos20/8/2|journal=Connection Science|volume=8|issue=2|access-date=2017-08-10}} {{ref-en}}</ref>

[[Ендрю Ин]] у своєму семінарі на ''NIPS'' 2016<ref>{{Citation|title=NIPS 2016 tutorial: "Nuts and bolts of building AI applications using Deep Learning" by Andrew Ng|url=https://www.youtube.com/watch?v=wjqaz6m42wU|archive-url=https://web.archive.org/web/20200113233854/https://www.youtube.com/watch?v=wjqaz6m42wU|archive-date=2020-01-13|url-status=live|language=en|access-date=2019-12-28}} {{ref-en}}</ref><ref>{{Cite web|url=https://nips.cc/Conferences/2016/Schedule?showEvent=6203|title=NIPS 2016 Schedule|website=nips.cc|accessdate=2019-12-28}} {{ref-en}}</ref><ref>[https://media.nips.cc/Conferences/2016/Slides/6203-Slides.pdf Nuts and bolts of building AI applications using Deep Learning, slides] {{ref-en}}</ref> сказав, щоби підкреслити важливість ПН, що воно буде наступним рушієм комерційного успіху МН після [[Кероване навчання|керованого навчання]].

== Визначення ==
Визначення передавального навчання задають у термінах областей визначення та задач. Область визначення <math>\mathcal{D}</math> складається з [[Простір ознак|простору ознак]] <math>\mathcal{X}</math> та [[Відособлений розподіл|відособленого розподілу ймовірності]] <math>P(X)</math>, де <math>X = \{x_1,...,x_n\} \in \mathcal{X}</math>. Для заданої конкретної області визначення <math>\mathcal{D} = \{\mathcal{X}, P(X)\}</math> задача складається з двох складових: простору міток <math>\mathcal{Y}</math> та цільової передбачувальної функції <math>f:\mathcal{X} \rightarrow \mathcal{Y} </math>. Функцію <math>f</math> використовують для передбачування відповідної мітки <math>f(x)</math> нового примірника <math>x</math>. Цієї задачі, позначуваної через <math>\mathcal{T} = \{\mathcal{Y}, f(x)\}</math>, навчаються з тренувальних даних, що складаються з пар <math>\{x_i, y_i\}</math>, де <math>x_i \in X</math>, а <math>y_i \in \mathcal{Y}</math>.<ref name="Lin, Jung 2017">{{Cite journal|last=Lin|first=Yuan-Pin|last2=Jung|first2=Tzyy-Ping|date=27 червня 2017|title=Improving EEG-Based Emotion Classification Using Conditional Transfer Learning|journal=Frontiers in Human Neuroscience|volume=11|pages=334|doi=10.3389/fnhum.2017.00334|pmc=5486154|pmid=28701938}} {{ref-en}} [[Файл:CC-BY_icon.svg|50x50пкс]] Матеріал було скопійовано з цього джерела, що є доступним за ліцензією [[creativecommons:by/4.0/|Creative Commons Attribution 4.0 International License]]. {{ref-en}}</ref>

Для заданої первинної області визначення <math>\mathcal{D}_S</math> та задачі навчання <math>\mathcal{T}_S</math>, цільової області визначення <math>\mathcal{D}_T</math> та задачі навчання <math>\mathcal{T}_T</math>, де <math>\mathcal{D}_S \neq \mathcal{D}_T</math>, або <math>\mathcal{T}_S \neq \mathcal{T}_T</math>, передавальне навчання має на меті допомогти покращити навчання цільової передбачувальної функції <math>f_T (\cdot)</math> в <math>\mathcal{D}_T</math>, використовуючи знання в <math>\mathcal{D}_S</math> і <math>\mathcal{T}_S</math>.<ref name="Lin, Jung 2017"/>

== Застосування ==
Існують доступні алгоритми для передавального навчання в {{нп|Марковська логічна мережа|марковських логічних мережах||Markov logic network}}<ref>{{Citation|title=Learning Proceedings of the 22nd AAAI Conference on Artificial Intelligence (AAAI-2007)|date=July 2007|last=Mihalkova|last2=Huynh|last3=Mooney|first=Lilyana|first2=Tuyen|first3=Raymond J.|contribution=Mapping and Revising Markov Logic Networks for Transfer|contribution-url=http://www.cs.utexas.edu/users/ml/papers/mihalkova-aaai07.pdf|place=Vancouver, BC|access-date=2007-08-05}} {{ref-en}}</ref> та [[Баєсова мережа|баєсових мережах]].<ref>{{Citation|last=Niculescu-Mizil|title=Proceedings of the Eleventh International Conference on Artificial Intelligence and Statistics (AISTATS 2007)|date=March 21–24, 2007|last2=Caruana|first=Alexandru|first2=Rich|contribution=Inductive Transfer for Bayesian Network Structure Learning|contribution-url=http://www.stat.umn.edu/~aistat/proceedings/data/papers/043.pdf|access-date=2007-08-05|archive-date=2010-06-20|archive-url=https://web.archive.org/web/20100620190541/http://www.stat.umn.edu/~aistat/proceedings/data/papers/043.pdf}} {{ref-en}}</ref> Передавальне навчання також застосовували до виявляння підтипів раку,<ref name=":bmdl">Hajiramezanali, E. & Dadaneh, S. Z. & Karbalayghareh, A. & Zhou, Z. & Qian, X. Bayesian multi-domain learning for cancer subtype discovery from next-generation sequencing count data. 32nd Conference on Neural Information Processing Systems (NeurIPS 2018), Montréal, Canada. {{Arxiv|1810.09433}} {{ref-en}}</ref> {{нп|Заселеність|використання будівель||Occupancy}},<ref>{{Cite conference|last1=Arief-Ang|first1=I.B.|last2=Salim|first2=F.D.|last3=Hamilton|first3=M.|date=2017-11-08|title=DA-HOC: semi-supervised domain adaptation for room occupancy prediction using CO2 sensor data|url=https://dl.acm.org/citation.cfm?id=3137146|conference=4th ACM International Conference on Systems for Energy-Efficient Built Environments (BuildSys)|location=Delft, Netherlands|pages=1–10|doi=10.1145/3137133.3137146|isbn=978-1-4503-5544-5}} {{ref-en}}</ref><ref>{{Cite journal|last=Arief-Ang|first=I.B.|last2=Hamilton|first2=M.|last3=Salim|first3=F.D.|date=2018-12-01|title=A Scalable Room Occupancy Prediction with Transferable Time Series Decomposition of CO2 Sensor Data|journal=ACM Transactions on Sensor Networks|volume=14|issue=3–4|pages=21:1–21:28|doi=10.1145/3217214}} {{ref-en}}</ref> {{нп|Універсальна ігрова програма|універсальних ігрових програм||General game playing}},<ref>Banerjee, Bikramjit, and Peter Stone. "[http://www.aaai.org/Papers/IJCAI/2007/IJCAI07-107.pdf General Game Learning Using Knowledge Transfer] {{Webarchive|url=https://web.archive.org/web/20210501173047/http://www.aaai.org/Papers/IJCAI/2007/IJCAI07-107.pdf |date=2021-05-01 }}." IJCAI. 2007. {{ref-en}}</ref> [[Класифікація документів|класифікації текстів]],<ref>{{cite conference|last1=Do|first1=Chuong B.|last2=Ng|first2=Andrew Y.|year=2005|title=Neural Information Processing Systems Foundation, NIPS*2005|url=http://papers.nips.cc/paper/2843-transfer-learning-for-text-classification.pdf|access-date=2007-08-05|contribution=Transfer learning for text classification}} {{ref-en}}</ref><ref>{{cite conference|last1=Rajat|first1=Raina|last2=Ng|first2=Andrew Y.|last3=Koller|first3=Daphne|year=2006|title=Twenty-third International Conference on Machine Learning|url=https://ai.stanford.edu/~ang/papers/icml06-transferinformativepriors.pdf|access-date=2007-08-05|contribution=Constructing Informative Priors using Transfer Learning}} {{ref-en}}</ref> розпізнавання цифр,<ref>{{Cite journal|last=Maitra|first=D. S.|last2=Bhattacharya|first2=U.|last3=Parui|first3=S. K.|date=August 2015|title=CNN based common approach to handwritten character recognition of multiple scripts|journal=2015 13th International Conference on Document Analysis and Recognition (ICDAR)|pages=1021–1025|doi=10.1109/ICDAR.2015.7333916|isbn=978-1-4799-1805-8}} {{ref-en}}</ref> медичного унаочнювання та [[Фільтрування електронної пошти|фільтрування спаму]].<ref>{{cite conference|last=Bickel|first=Steffen|year=2006|title=ECML-PKDD Discovery Challenge Workshop|url=http://www.ecmlpkdd2006.org/discovery_challenge2006_overview.pdf|access-date=2007-08-05|contribution=ECML-PKDD Discovery Challenge 2006 Overview}} {{ref-en}}</ref>

2020 року було виявлено, що, завдяки їхній подібній фізичній природі, є можливим передавальне навчання між [[Електроміографія|електроміографічними]] (ЕМГ) сигналами від м'язів при класифікуванні поведінки [[Електроенцефалографія|електроенцефалографічних]] (ЕЕГ) мозкових хвиль з області {{нп|розпізнавання жестів|||Gesture recognition}} до області розпізнавання психічного стану. Було також зазначено, що цей взаємозв'язок працював і в зворотному напрямку, показуючи, що ЕЕГ також може подібним чином бути додатково використано для класифікування ЕМГ.<ref>{{Cite journal|last=Bird|first=Jordan J.|last2=Kobylarz|first2=Jhonatan|last3=Faria|first3=Diego R.|last4=Ekart|first4=Aniko|last5=Ribeiro|first5=Eduardo P.|year=2020|title=Cross-Domain MLP and CNN Transfer Learning for Biological Signal Processing: EEG and EMG|journal=IEEE Access|publisher=Institute of Electrical and Electronics Engineers (IEEE)|volume=8|pages=54789–54801|doi=10.1109/access.2020.2979074|issn=2169-3536|doi-access=free}} {{ref-en}}</ref> Ці експерименти відзначали, що точність [[Штучна нейронна мережа|нейронних мереж]] та [[Згорткова нейронна мережа|згорткових нейронних мереж]] покращилася<ref>{{Cite journal|last=Maitra|first=Durjoy Sen|last2=Bhattacharya|first2=Ujjwal|last3=Parui|first3=Swapan K.|date=August 2015|title=CNN based common approach to handwritten character recognition of multiple scripts|url=https://ieeexplore.ieee.org/document/7333916/|journal=2015 13th International Conference on Document Analysis and Recognition (ICDAR)|pages=1021–1025|doi=10.1109/ICDAR.2015.7333916}} {{ref-en}}</ref> завдяки передавальному навчанню як у першу епоху (до будь-якого тренування, тобто порівняно зі стандартним випадковим розподілом ваг), так і в асимптоті (у кінці процесу навчання). Тобто алгоритми вдосконалюються завдяки впливові іншої області визначення. Більше того, для досягнення кращої продуктивності кінцевий користувач попередньо натренованої моделі може змінювати структуру повноз'єднаних шарів.<ref>[[arxiv:2007.03347|Kabir, H. M., Abdar, M., Jalali, S. M. J., Khosravi, A., Atiya, A. F., Nahavandi, S., & Srinivasan, D. (2020). Spinalnet: Deep neural network with gradual input. arXiv preprint arXiv:2007.03347.]] {{ref-en}}</ref>

== Див. також ==

* [[Схрещування (генетичний алгоритм)]]
* [[Пристосовування області визначення]]
* {{нп|Універсальна ігрова програма|||General game playing}}
* {{нп|Багатозадачне навчання|||Multi-task learning}}
* {{нп|Багатозадачна оптимізація|||Multitask optimization}}

== Примітки ==
{{Примітки}}

== Джерела ==

* {{Cite book
|url={{google books|plainurl=y|id=X_jpBwAAQBAJ}}
|title=Learning to Learn
|last=Thrun
|first=Sebastian
|last2=Pratt
|first2=Lorien
|date=6 грудня 2012
|publisher=Springer Science & Business Media
|isbn=978-1-4615-5529-2
|ref=harv
}} {{ref-en}}

[[Категорія:Машинне навчання]]