Середнє степеневе зважене

Середнє степеневе зважене — різновид середнього значення. Для набору додатних дійсних чисел $x_1,\dots ,x_n$ з параметром $q\ne 0$ і невід'ємними вагами $w_1,\dots ,w_n$ визначається як

$\overline{x}={\left(\frac{\sum _{i=1}^n{w}_i{x}_i^q}{\sum _{i=1}^n{w}_i}\right)}^{1/q}$.

Якщо ваги $w_1,\dots ,w_n$ нормовані до одиниці (тобто їх сума дорівнює одиниці), то вираз для середнього степеневого зваженого набуває вигляду

$\overline{x}={\left(\sum _{i=1}^n{w}_i{x}_i^q\right)}^{1/q}$.

Властивості

• У тому випадку, коли всі ваги $w_i$ рівні між собою, середнє степеневе зважене дорівнює середньому степеневому.
• Середнє арифметичне зважене і середнє гармонійне зважене є окремими випадками середнього степеневого зваженого при відповідно $q=1$ і $q=-1$.
• У границі при $q\to 0$ середнє степеневе зважене збігається до середнього геометричного зваженого.

Зв'язок з ентропією Реньї

Інформаційну ентропію деякої системи можна визначити як логарифм числа доступних станів системи (або їх ефективної кількості, якщо стани не рівноймовірні). Врахуємо, що ймовірності $p_i$ перебування системи в стані з номером $i$ ($i=1,\dots ,N$) нормовані до $1$. Якщо стани системи рівноймовірні і мають імовірність $p$, то $N=1/p$. У разі різних імовірностей станів $p_i$ визначимо ефективну кількість станів $\bar{N}$ як середнє степеневе зважене величин $x_i=1/p_i$ з вагами $p_i$ і параметром $q=1-\alpha$ (де $\alpha \ne 1$):

$\bar{N}={\left(\sum _{i=1}^N{p}_i{x}_i^q\right)}^{1/q}={(\sum _{i=1}^N{p}_i(1/p_i{)}^{1-\alpha })}^{\frac{1}{1-\alpha }}={\left(\sum _{i=1}^N{p}_i^{\alpha }\right)}^{\frac{1}{1-\alpha }}$.

Звідси отримуємо вираз для ентропії

$H=\log \bar{N}=\log {\left(\sum _{i=1}^N{p}_i^{\alpha }\right)}^{\frac{1}{1-\alpha }}=\frac{1}{1-\alpha }\log \sum _{i=1}^N{p}_i^{\alpha }$,

збігається з виразом для ентропії РеньїШаблон:Sfn. Легко бачити, що в границі при $\alpha \to 1$ (або $q\to 0$) ентропія Реньї збігається до ентропії Шеннона (при тому, що середнє степеневе зважене — до середнього геометричного зваженого). За визначенням ентропії Реньї має виконуватися додаткове обмеження $\alpha \ge 0$ (або $q\le 1$).

Література

• Шаблон:Книга