Перегляд вихідного коду сторінки ADALINE

[[Файл:Adaline_ukr.JPG|right|thumb|200 px|Навчання одного шару ADALINE]]
'''ADALINE''' ({{lang-en|Adaptive Linear Neuron}} або пізніше {{lang-en|Adaptive Linear Element}})&nbsp;— адаптивний лінійний нейрон, або адаптивний лінійний елемент. ADALINE по суті є одношаровою [[Штучні нейронні мережі|нейронною мережею]].<ref>{{cite book |url=https://books.google.com/books?id=-l-yim2lNRUC&pg=PA54&lpg=PA54&dq=adaline+smithsonian+widrow&source=bl&ots=k56zCTw0Ah&sig=6lR7UKfSUnTHTCvMJrs8Z8FXr1o&hl=en&sa=X&ei=af0ZUJaNJuThiwKp8oHgBw&ved=0CFYQ6AEwAA#v=onepage&q=adaline%20smithsonian%20widrow&f=false |title=Talking Nets: An Oral History of Neural Networks }}</ref><ref>Youtube: [https://www.youtube.com/watch?v=IEFRtz68m-8 widrowlms: Science in Action] {{Webarchive|url=https://web.archive.org/web/20170303064248/https://www.youtube.com/watch?v=IEFRtz68m-8&app=desktop |date=3 березня 2017 }}</ref><ref>{{Cite web |url=http://www-isl.stanford.edu/~widrow/papers/t1960anadaptive.pdf |title=1960: An adaptive "ADALINE" neuron using chemical "memistors" |accessdate=9 серпня 2018 |archive-date=14 липня 2018 |archive-url=https://web.archive.org/web/20180714173310/http://www-isl.stanford.edu/~widrow/papers/t1960anadaptive.pdf }}</ref><ref>Youtube: [https://www.youtube.com/watch?v=hc2Zj55j1zU widrowlms: The LMS algorithm and ADALINE. Part I - The LMS algorithm] {{Webarchive|url=https://web.archive.org/web/20160921054539/https://www.youtube.com/watch?v=hc2Zj55j1zU&gl=US&hl=en |date=21 вересня 2016 }}</ref><ref>Youtube: [https://www.youtube.com/watch?v=skfNlwEbqck widrowlms: The LMS algorithm and ADALINE. Part II - ADALINE and memistor ADALINE] {{Webarchive|url=https://web.archive.org/web/20201113101144/https://www.youtube.com/watch?v=skfNlwEbqck&gl=US&hl=en |date=13 листопада 2020 }}</ref> Він був розроблений професором [[Бернард Відроу|Бернардом Відроу]] і його студентом [[Тед Гофф|Тедом Гоффом]] у Стенфордському університеті у 1960 році. ADALINE базується на [[штучний нейрон|штучному нейроні МакКаллока-Пітса]].

Різниця між Адалін і стандартним нейроном МакКаллоха-Пітса полягає в тому, що у фазі навчання ваги Адалін встановлюються відповідно до вагової суми входів (сигнали сітки). В стандартному [[перцептрон]]і протягом фази навчання сигнали сітки надходять до [[передавальна функція|передавальної функції]] і її вихід використовується для встановлення ваг.

Багатошарова мережа ADALINE називається [[Madaline]].

== Визначення ==
ADALINE&nbsp;— це одношарова нейросітка з численними вузлами, кожен з яких має багато входів і генерує вихідний сигнал.
Позначимо такі змінні:
* <math>x</math>&nbsp;— вхідний вектор
* <math>w</math>&nbsp;— ваговий вектор
* <math>n</math>&nbsp;— число входів
* <math>\theta</math>&nbsp;— деяка константа
* <math>y</math>&nbsp;— вихід

Вихід визначається наступною формулою: <math>y=\sum_{j=1}^{n} x_j w_j + \theta</math>. Припустимо, що
* <math>x_{n+1}=1</math>
* <math>w_{n+1}=\theta</math>
Тоді вихід спрощується до скалярного добутку x і w: <math>y=\sum_{j=0}^{n} x_j w_j</math>.

== Алгоритм навчання ==
Припустимо:
* <math>\eta</math> швидкість навчання (деяка константа)
* <math>d</math> бажаний вихід
* <math>o</math> поточний вихід
тоді ваги встановлюються таким чином: <math>w \leftarrow w + \eta(d-o)x</math>. ADALINE сходиться до похибки найменших квадратів: <math>E=(d-o)^2</math>.<ref>{{cite web |url=http://www.cs.utsa.edu/~bylander/cs4793/learnsc32.pdf |title=Adaline (Adaptive Linear) |work=CS 4793: Introduction to Artificial Neural Networks |publisher=Department of Computer Science, University of Texas at San Antonio |accessdate=17 січня 2010 |archive-date=15 червня 2010 |archive-url=https://web.archive.org/web/20100615062059/http://www.cs.utsa.edu/~bylander/cs4793/learnsc32.pdf }}</ref>
Це правило оновлення насправді є [[Стохастичний градієнтний спуск|стохастичним градієнтним спуском]] для [[Лінійна регресія|лінійної регресії]].<ref>{{cite web|author=Avi Pfeffer |title=CS181 Lecture 5 — Perceptrons |url=http://www.seas.harvard.edu/courses/cs181/files/lecture05-notes.pdf |publisher=Harvard University }}{{dead link|date=June 2017 |bot=InternetArchiveBot |fix-attempted=yes }}</ref>

== Примітки ==
{{reflist}}

== Посилання ==
* [https://archive.today/20130213045753/http://www.gc.ssr.upm.es/inves/neural/ann1/supmodel/linanet.htm Delta Learning Rule: ADALINE]
* [http://www.cs.utsa.edu/~bylander/cs4793/learnsc32.pdf Adaline (Adaptive Linear)] {{Webarchive|url=https://web.archive.org/web/20100615062059/http://www.cs.utsa.edu/~bylander/cs4793/learnsc32.pdf |date=15 червня 2010 }}
* [https://web.archive.org/web/20070319193513/http://davinci.newcs.uwindsor.ca/~angom/cs574/le2.pdf Perceptron and ADALINE]

== Див. також ==
* [[MADALINE]]

[[Категорія:Нейронні мережі]]