Ентропія Цалліса

У статистичній термодинаміці ентропія Цалліса — узагальнення стандартної ентропії Больцмана — Гіббса, запропоноване Константіно Цаллісом (Constantino Tsallis) 1988 року для випадку неекстенсивних (неадитивних) систем. Його гіпотеза базується на припущенні, що сильна взаємодія в термодинамічно аномальній системі призводить до нових ступенів вільності, до зовсім іншої статистичної фізики небольцманівського типу.

Визначення та основні відомості

Нехай $P$ — розподіл імовірностей і $\mu$ — будь-яка міра на $X$, для якої існує абсолютно неперервна відносно $\mu$ функція $p=\frac{dP}{d\mu }$. Тоді ентропія Цалліса визначається як

$S_q(P)=\frac{k}{q-1}(1-\underset{X}{\overset{}{\int }}{p}^{q}d\mu ).$

Зокрема, для дискретної системи, що перебуває в одному з $N$ доступних станів з розподілом імовірностей $P=\{p_i|i=1,2,...,N\}$ ,

$S_q(P)=\frac{k}{q-1}(1-\sum _{i=1}^N{p}_i^q)$.

У разі міри Лебега $\mu =x$, тобто коли $P$ — неперервний розподіл з густиною $p(x)$, заданою на множині $X$,

$S_q(P)=\frac{k}{q-1}(1-\underset{X}{\overset{}{\int }}{p}^q(x)dx)$.

У цих формулах $k$ — деяка додатна константа, яка визначає одиницю вимірювання ентропії й у фізичних формулах служить для зв'язки розмірностей, як, наприклад, стала Больцмана. З точки зору задачі оптимізації ентропії ця константа є несуттєвою, тому для спрощення часто вважають $k=1$.

Параметр $q$ — безрозмірна величина ($q\in R$), яка характеризує ступінь неекстенсивності (неадитивності) даної системи. У границі при $q\to 1$, ентропія Цалліса збігається до ентропії Больцмана — Гіббса. При $q>0$ ентропія Цалліса є увігнутим функціоналом від розподілу ймовірностей і, як звичайна ентропія, досягає максимуму за рівномірного розподілу. При $q<0$ функціонал є опуклим і за рівномірного розподілу досягає мінімуму. Тому для пошуку рівноважного стану ізольованої системи при $q>0$ ентропію Цалліса потрібно максимізувати, а при $q<0$ — мінімізувати. Значення параметра $q=0$ — це вироджений випадок ентропії Цалліса, коли вона не залежить від $P$, а залежить лише від $\mu (X)$, тобто від розміру системи (від $N$ у дискретному випадку).

У безперервному випадку іноді вимагають, щоб носій випадкової величини $X$ був безрозмірним. Це забезпечує коректність функціоналу ентропії з точки зору розмірності.

Історично першими вираз для ентропії Цалліса (точніше, для часткового її випадку при $k=\frac{q-1}{1-2^{1-q}}$) отримали Дж. Хаврда і Ф. Чарват (J. Havrda і F. Charvát) 1967 року. Разом з тим, при $q>0$ ентропія Цалліса є частковим випадком f-ентропії (при $q<0$ f-ентропією є величина, протилежна ентропії Цалліса).

Деякі співвідношення

Ентропію Цалліса можна отримати зі стандартної формули для ентропії Больцмана — Гіббса заміною використовуваної в ній функції $\ln x$ функцією

${\ln }_{q}x=\frac{x^{q-1}-1}{q-1}$

— так званий q-деформований логарифм або просто q-логарифм (у границі при $q\to 1$ збігається з логарифмом). К. Цалліс використовував дещо іншу формулу q-логарифма, яка зводиться до наведеної тут заміною параметра $q$ на $2-q$.

Ще один спосіб отримати ентропію Цалліса ґрунтується на співвідношенні, справедливому для ентропії Больцмана — Гіббса:

$S(P)=-k\underset{t\to 1}{\lim }\frac{d}{dt}\sum _{i=1}^N{p}_i^t$.

Неважко бачити, що якщо замінити в цьому виразі звичайну похідну на q-похідну (відому також як похідна Джексона), виходить ентропія Цалліса:

$S_q(P)=-k\underset{t\to 1}{\lim }{\left(\frac{d}{dt}\right)}_q\sum _{i=1}^N{p}_i^t$.

Аналогічно для неперервного випадку:

$S_q(P)=-k\underset{t\to 1}{\lim }{\left(\frac{d}{dt}\right)}_q\underset{X}{\overset{}{\int }}{p}^t(x)dx$.

Неекстенсивність (неадитивність)

Нехай є дві незалежні системи $A$ і $B$, тобто такі системи, що в дискретному випадку спільна ймовірність появи двох будь-яких станів $a\in A$ і $b\in B$ в цих системах дорівнює добутку відповідних імовірностей:

$\mathrm{Prob}(a,b)=\mathrm{Prob}(a)\mathrm{Prob}(b)$,

а в неперервному — спільна густина розподілу ймовірностей дорівнює добутку відповідних густин:

$p_{AB}(x,y)=p_A(x)p_B(y)$ ,

де $x\in X$, $y\in Y$ — області значень випадкової величини в системах $A$ і $B$ відповідно.

На відміну від ентропії Больцмана — Гіббса і ентропії Реньї, ентропія Цалліса, загалом, не володіє адитивністю, і для сукупності систем виконується

$S_q(AB)=S_q(A)+S_q(B)+\frac{1-q}{k}{S}_q(A)S_q(B)$.

Оскільки умова адитивності для ентропії має вигляд

$S(AB)=S(A)+S(B)$ ,

відхилення параметра $q$ від $1$ характеризує неекстенсивність (неадитивність) системи. Ентропія Цалліса є екстенсивною тільки при $q=1$.

Дивергенція Цалліса

Поряд з ентропією Цалліса, розглядають також сімейство несиметричних мір розбіжності (дивергенції) Цалліса між розподілами ймовірностей зі спільним носієм. Для двох дискретних розподілів з імовірністю $A=\{a_i\}$ і $B=\{b_i\}$, $i=1,2,...,N$, дивергенція Цалліса визначається як

$D_q(A,B)=\frac{k}{q-1}(\sum _{i=1}^N{a}_i^q{b}_i^{1-q}-1)$.

У неперервному випадку, якщо розподіли $A$ і $B$ задані густинами $a(x)$ і $b(x)$ відповідно, де $x\in X$ ,

$D_q(A,B)=\frac{k}{q-1}(\underset{X}{\overset{}{\int }}{a}^q(x)b^{1-q}(x)dx-1)$.

На відміну від ентропії Цалліса, дивергенція Цалліса визначена при $q>0$. Несуттєва додатна константа $k$ в цих формулах, як і для ентропії, задає одиницю виміру дивергенції і часто опускається (покладається рівною $1$). Дивергенція Цалліса є окремим випадком α-дивергенції (з точністю до несуттєвої константи) і, як α-дивергенція, є опуклою за обома аргументами за всіх $q>0$. Дивергенція Цалліса також є окремим випадком f-дивергенції.

Дивергенці. Цалліса можна отримати з формули для дивергенції Кульбака — Лейблера підстановкою в неї q-деформованого логарифма, визначеного вище, замість функції $\ln x$. У границі при $q\to 1$ дивергенція Цалліса сходиться до дивергенції Кульбака — Лейблера.

Зв'язок формалізмів Реньї та Цалліса

Ентропія Реньї та ентропія Цалліса еквівалентні з точністю до монотонного перетворення, що не залежить від розподілу станів системи. Те саме стосується відповідних дивергенцій. Розглянемо, наприклад, ентропію Реньї для системи $P$ з дискретним набором станів $\{p_i|i=1,2,...,N\}$:

${\tilde{S}}_q(P)=\frac{\tilde{k}}{1-q}\ln \sum _{i=1}^N{p}_i^q$, $q\ge 0$.

Дивергенція Реньї для дискретних розподілів з імовірністю $A=\{a_i\}$ і $B=\{b_i\}$, $i=1,2,...,N$:

${\tilde{D}}_q(A,B)=\frac{\tilde{k}}{q-1}\ln \sum _{i=1}^N{a}_i^q{b}_i^{1-q}$, $q>0$.

У цих формулах додатна константа $\tilde{k}$ має таке саме значення, як і $k$ у формалізмі Цалліса.

Легко бачити, що

$S_q(P)=T_{2-q}({\tilde{S}}_q(P))$ ,

$D_q(A,B)=T_q({\tilde{D}}_q(A,B))$ ,

де функція

$T_q(x)=k\frac{\exp (x(q-1)/\tilde{k})-1}{q-1}$

визначена на всій числовій осі і неперервно зростає за $x$ (при $q=1$ вважаємо $T_q(x)=\frac{k}{\tilde{k}}x$). Наведені співвідношення мають місце і в неперервному випадку.

Попри наявність зв'язку з цим, слід пам'ятати, що функціонали у формалізмі Реньї та Цалліса мають різні властивості:

• ентропія Цалліса, загалом, не адитивна, тоді як ентропія Реньї адитивна при всіх $q>0$;
• ентропія і дивергенція Цалліса є увігнутими або опуклими (крім $q=0$), тоді як ентропія і дивергенція Реньї, загалом, не мають ні тієї, ні іншої властивості.