Перегляд вихідного коду сторінки Softmax

В математиці, '''функція Softmax''', або ж '''нормована експоненційна функція'''<ref name="bishop"/>{{rp|198}}&nbsp;— це узагальнення [[логістична функція|логістичної функції]], що «стискує» {{mvar|K}}-вимірний вектор <math>\mathbf{z}</math> із довільним значеннями компонент до {{mvar|K}}-вимірного вектора <math>\sigma(\mathbf{z})</math> з дійсними значеннями компонент в області [0, 1] що в сумі дають одиницю. Функція задається наступним чином:

: <math>\sigma:\mathbb{R}^K \to [0,1]^K</math>
: <math>\sigma(\mathbf{z})_j = \frac{e^{z_j}}{\sum_{k=1}^K e^{z_k}}</math> &nbsp;&nbsp; for ''j'' = 1, …, ''K''.

В [[теорія ймовірності|теорії ймовірності]], результат софтмакс-функції може використовуватись для того щоб представити [[категорійний розподіл]], тобто [[розподіл ймовірності]] при {{mvar|K}} різних можливих варіантах. Функція софтмакс використовується в різних методах {{нп|Багатокласова класифікація|багатокласової класифікації||Multiclass classification}}, таких, як наприклад {{нп|мультиноміальна логістична регресія|||Multinomial logistic regression}} (також відома як софтмакс-регресія)<ref name="bishop">{{cite book |first=Christopher M. |last=Bishop |year=2006 |title=Pattern Recognition and Machine Learning |url=https://archive.org/details/patternrecogniti0000bish |publisher=Springer}}</ref>, багатокласовий [[лінійний розділювальний аналіз]], [[наївний баєсів класифікатор]], і [[штучні нейронні мережі]].<ref name=":0">ai-faq [http://www.faqs.org/faqs/ai-faq/neural-nets/part2/section-12.html What is a softmax activation function?] {{Webarchive|url=https://web.archive.org/web/20161112235320/http://www.faqs.org/faqs/ai-faq/neural-nets/part2/section-12.html |date=12 листопада 2016 }}</ref>

== Інтерпретації ==

=== Згладжений arg max ===
{{See also|Arg max}}Назва «softmax» вводить в оману&nbsp;— функція не є згладженим максимумом ([[гладка функція|гладке наближення]] до функції [[Екстремум|максимуму]]), а є скоріше гладким наближенням до функції [[Аргументи максимізації та мінімізації|arg max]]&nbsp;— аргумента максимального значення функції. Насправді, термін «softmax» також використовується для тісно пов'язаної {{нп|Функція LogSumExp| функції LogSumExp||LogSumExp}}, яка є згладженим максимумом. З цієї причини дехто вважає кращим більш точний термін «softargmax», але термін «softmax» є прийнятим у машинному навчанні.{{Sfn|Goodfellow|Bengio|Courville|2016|сторінки=183–184}} У цьому розділі використовується термін «softargmax», щоб підкреслити цю інтерпретацію.

=== Теорія ймовірностей ===
У [[Теорія ймовірностей|теорії ймовірностей]] значення функції softargmax можна використовувати для представлення [[Категорійний розподіл|категорійного розподілу]], тобто [[Розподіл імовірностей|розподілу ймовірностей]] для {{Mvar|K}} різних можливих результатів.

=== Статистична механіка ===
У [[Статистична механіка|статистичній механіці]] функція Softargmax відома як [[розподіл Больцмана]] (або [[розподіл Гіббса]]):<ref>{{Cite book
|url=https://mitpress.mit.edu/books/predicting-structured-data
|title=Predicting Structured Data
|last=LeCun
|first=Yann
|authorlink1=Ян ЛеКун
|last2=Chopra
|first2=Sumit
|last3=Hadsell
|first3=Raia
|last4=Ranzato
|first4=Marc’Aurelio
|last5=Huang
|first5=Fu Jie
|year=2006
|editor-last=Gökhan Bakır
|series=Neural Information Processing series
|publisher=MIT Press
|chapter=A Tutorial on Energy-Based Learning
|isbn=978-0-26202617-8
|accessdate=2 грудня 2021
|archive-date=15 липня 2018
|archive-url=https://web.archive.org/web/20180715045234/https://mitpress.mit.edu/books/predicting-structured-data
}}</ref>{{Rp|7}}набір індексів <math>{1, \dots, k}</math>&nbsp;— мікростани системи; входи <math>z_i</math>&nbsp;— енергії цих станів; знаменник відомий як [[статистична сума]], часто позначається як {{Mvar|''Z''}} ; а коефіцієнт {{Mvar|''β''}} називається термодинамічна бета, або обернена температура.

== Застосування ==
Функція softmax використовується в різних {{нп|Багатокласова класифікація|методах багатокласової класифікації||Multiclass classification}}, таких як: {{нп|мультиноміальна логістична регресія|||Multinomial logistic regression}} (також відома як softmax регресія)<ref name="bishop2">{{Cite book
|title=Pattern Recognition and Machine Learning
|url=https://archive.org/details/patternrecogniti0000bish
|last=Bishop
|first=Christopher M.
|year=2006
|publisher=Springer
|isbn=0-387-31073-8
}}</ref>{{Rp|206–209}}<ref>{{Cite web|title=Unsupervised Feature Learning and Deep Learning Tutorial|url=http://ufldl.stanford.edu/tutorial/supervised/SoftmaxRegression/|website=ufldl.stanford.edu|accessdate=2021-12-05|archive-date=28 листопада 2021|archive-url=https://web.archive.org/web/20211128141127/http://ufldl.stanford.edu/tutorial/supervised/SoftmaxRegression/}}</ref>, багатокласовий лінійний [[дискримінантний аналіз]], [[Наївний баєсів класифікатор|наївних баєсівих класифікаторах]] та [[Штучна нейронна мережа|штучних нейронних мережах]].<ref name=":0"/> Зокрема, у мультиноміальній логістичній регресії та лінійному дискримінантному аналізі вхідними даними функції є результати {{Mvar|K}} різних [[Лінійна функція|лінійних функцій]], а прогнозована ймовірність для {{Mvar|j}}-го класу з урахуванням вектора вибірки {{Math|'''x'''}} і вектора ваги {{Math|'''w'''}} є:

<math>P(y=j\mid \mathbf{x}) = \frac{e^{\mathbf{x}^\mathsf{T}\mathbf{w}_j}}{\sum_{k=1}^K e^{\mathbf{x}^\mathsf{T}\mathbf{w}_k}}</math>

Це можна розглядати як [[Композиція функцій|композицію]] {{Mvar|K}} лінійних функцій <math>\mathbf{x} \mapsto \mathbf{x}^\mathsf{T}\mathbf{w}_1, \ldots, \mathbf{x} \mapsto \mathbf{x}^\mathsf{T}\mathbf{w}_K</math> і функції softmax (де <math>\mathbf{x}^\mathsf{T}\mathbf{w}</math> позначає внутрішній добуток <math>\mathbf{x}</math> і <math>\mathbf{w}</math>). Операція еквівалентна застосуванню лінійного оператора, визначеного за допомогою <math>\mathbf{w}</math> до векторів <math>\mathbf{x}</math>, перетворюючи таким чином вхідний, можливо, багатовимірний, вектор аргументів на вектор у {{Mvar|K}} -вимірному просторі <math>\mathbb{R}^K</math>.

=== Нейронні мережі ===
Функція softmax часто використовується в останньому шарі класифікаторів на основі нейронних мереж. Такі мережі зазвичай навчаються за допомогою [[Перехресна ентропія|перехресної ентропії]], що дає нелінійний варіант поліноміальної логістичної регресії.

Оскільки функція переводить вектор <math>\textbf{q}</math> і певний індекс <math>i</math> в дійсне число, то похідна повинна враховувати ще й індекс:
:<math> \frac{\partial}{\partial q_k}\sigma(\textbf{q}, i) = \sigma(\textbf{q}, i)(\delta_{ik} - \sigma(\textbf{q}, k)).</math>


Цей вираз є симетричним відносно індексів <math>i</math> та <math>k</math>, тому він також може бути виражений як
:<math> \frac{\partial}{\partial q_k}\sigma(\textbf{q}, i) = \sigma(\textbf{q}, k)(\delta_{ik} - \sigma(\textbf{q}, i)).</math>

Тут для простоти використовується [[символ Кронекера]] (похідна від [[Сигмоїда|сигмоїдної функції]] виражається через саму функцію).

Якщо функція масштабується за допомогою параметра <math>\beta</math>, то ці вирази потрібно помножити на <math>\beta</math>.

Див. {{нп|Мультиноміальна логістична регресія|Мультиноміальний logit||Multinomial logistic regression}} для ймовірнісної моделі, яка використовує функцію активації softmax.

=== Навчання з підкріпленням ===
У сфері [[навчання з підкріпленням]] функція softmax може використовуватися для перетворення значень у ймовірності дії. Зазвичай використовується наступна функція:<ref>Sutton, R. S. and Barto A. G. ''Reinforcement Learning: An Introduction''. The MIT Press, Cambridge, MA, 1998. [http://incompleteideas.net/book/ebook/node17.html Softmax Action Selection] {{Webarchive|url=https://web.archive.org/web/20220107101001/http://incompleteideas.net/book/ebook/node17.html |date=7 січня 2022 }}</ref>
:<math>
P_t(a) = \frac{\exp(q_t(a)/\tau)}{\sum_{i=1}^n\exp(q_t(i)/\tau)} \text{,}
</math>
де цінність дії <math>q_t(a)</math> відповідає очікуваній винагороді за наступну дію <math>a</math>, а <math>\tau</math> називається параметром температури (натяк на [[Статистична механіка|статистичну механіку]]). Для високих температур (<math>\tau\to \infty</math>), всі дії мають майже однакову ймовірність, а чим нижча температура, тим більше очікувана винагорода впливає на ймовірність обирання дії. Для низької температури (<math>\tau\to 0^+</math>), ймовірність дії з найбільшою очікуваною винагородою наближається до 1.

== Властивості ==
Геометрично функція softmax відображає [[векторний простір]] <math>\mathbb{R}^K</math> на [[Межа (топологія)|межі]] [[Симплекс|<math>(K-1)</math>]]-вимірного [[симплекс]]а, зменшуючи розмірність на одиницю (діапазоном значень стає <math>(K-1)</math>-вимірний симплекс в <math>K</math>-вимірному просторі), через [[Лінійне рівняння|лінійне обмеження,]] що сума елементів вихідного вектору дорівнює 1, що означає, що він лежить на [[Гіперплощина|гіперплощині]].

По головній діагоналі <math>(x, x, \dots, x),</math> softmax стає просто рівномірним розподілом, <math>(1/n, \dots, 1/n)</math>: рівні ваги дають рівні ймовірності.

Загалом, softmax є інваріантним щодо зсуву на одне й те саме значення в кожній координаті: додавання <math>\mathbf{c} = (c, \dots, c)</math> до вектору вхідних значень <math>\mathbf{z}</math> дає <math>\sigma(\mathbf{z} + \mathbf{c}) = \sigma(\mathbf{z})</math>, оскільки softmax множить кожен показник на один і той же коефіцієнт, <math>e^c</math> (тому що <math>e^{z_i + c} = e^{z_i} \cdot e^c</math>), тобто співвідношення не змінюється:

<math>\sigma(\mathbf{z} + \mathbf{c})_j = \frac{e^{z_j + c}}{\sum_{k=1}^K e^{z_k + c}} = \frac{e^{z_j} \cdot e^c}{\sum_{k=1}^K e^{z_k} \cdot e^c} = \sigma(\mathbf{z})_j.</math>

Геометрично, softmax є постійним уздовж діагоналей: це відповідає тому, що вихідне значення softmax не залежить від зсуву вхідних значень. Можна нормалізувати вхідні бали, якщо сума дорівнює нулю (відняти середнє: <math>\mathbf{c}</math>, де <math display="inline">c = \frac{1}{n} \sum z_i</math>), тоді softmax відображає гіперплощину точок, сума яких дорівнює нулю, <math display="inline">\sum z_i = 0</math>, до відкритого симплекса додатних значень, сума яких дорівнює 1: <math display="inline">\sum \sigma(\mathbf{z})_i = 1</math>, аналогічно тому, як експонента відображає 0 на 1, <math>e^0 = 1</math>.

Але softmax не є інваріантним відносно масштабування. Наприклад, <math>\sigma\bigl((0, 1)\bigr) = \bigl(1/(1 + e), e/(1+e)\bigr)</math> але
:<math>\sigma\bigl((0, 2)\bigr) = \bigl(1/(1 + e^2), e^2/(1+e^2)\bigr).</math>

Функція softmax&nbsp;— це градієнт функції {{нп|Функція LogSumExp|LogSumExp||LogSumExp}}&nbsp;— згладженого максимуму.
:<math> \frac{\partial}{\partial z_i} \operatorname{LSE}(\mathbf{z}) = \frac{\exp z_i}{\sum_{j=1}^{K} \exp z_j} = \sigma(\mathbf{z})_i, \quad \text{ for } i = 1, \dotsc, K, \quad \mathbf z=(z_1,\dotsc,z_K) \in\R^K,</math>
де функція LogSumExp визначена як <math>\operatorname{LSE}(z_1, \dots, z_n) = \log\left( \exp(z_1)+ \cdots + \exp(z_n) \right)</math>.

== Приклад ==
Якщо ми візьмемо вектор вхідних значень [1, 2, 3, 4, 1, 2, 3], то softmax цього вектору буде дорівнювати [0,024, 0,064, 0,175, 0,475, 0,024, 0,064, 0,175]. Результат застосування функції має найбільшу вагу там, де «4» у векторі вхідних даних. Це і є найчастішою метою застосування функції&nbsp;— відокремлення найбільших значень і придушення значень, що значно нижчі за максимальне. Але варто зауважити: softmax не є інваріантним відносно масштабування, тому якби вхідні дані були [0,1, 0,2, 0,3, 0,4, 0,1, 0,2, 0,3] (сума чого становить 1,6), softmax став би [0,125, 0,138, 0,153, 0,169, 0,153 0,125, 0,138, 0,153]. Це показує, що для значень від 0 до 1 softmax фактично деакцентує максимальне значення (зверніть увагу, що 0,169 не тільки менше 0,475, це також менше, ніж початкове відношення 0,4/1,6=0,25).

Коду мовою [[Python]] для обчислення для цього прикладу:<syntaxhighlight lang="python">
>>> import numpy as np
>>> a = [1.0, 2.0, 3.0, 4.0, 1.0, 2.0, 3.0]
>>> np.exp(a) / np.sum(np.exp(a)) 
array([0.02364054, 0.06426166, 0.1746813, 0.474833, 0.02364054,
       0.06426166, 0.1746813])
</syntaxhighlight>

== Примітки ==
{{reflist}}

{{Перекласти|en|Softmax function}}

{{Диференційовні обчислення}}

[[Категорія:Обчислювальна нейробіологія]]
[[Категорія:Логістична регресія]]
[[Категорія:Штучні нейронні мережі]]
[[Категорія:Функції та відображення]]
[[Категорія:Показникові функції]]