Нищівне скасування

Шаблон:Короткий опис У чисельних методах, нищівне скасування — це явище коли віднімання двох хороших наближень двох близьких чисел може породити дуже погане наближення різниці двох початкових чисел.

Наприклад, якщо маємо дві дошки, одна $L_1=254.5\text{см}$ завдовшки, а інша $L_2=253.5\text{см}$ завдовжки, і ми виміряємо їх лінійкою, точність якої лише сантиметр, тоді наближення будуть ${\tilde{L}}_1=255\text{см}$ і ${\tilde{L}}_2=253\text{см}$. Ці наближення можуть бути хорошими у сенсі відносної похибки, до справжніх довжин: наближення відхились менш ніж на 2 % від справжніх довжин, $|L_1-{\tilde{L}}_1|/|L_1|<2\mathrm{\%}$.

Однак, якщо наближені довжини відняти, то різниця буде ${\tilde{L}}_1-{\tilde{L}}_2=255\text{см}-253\text{см}=2\text{см}$, хоча справжня різниця між довжинами становить $L_1-L_2=254.5\text{см}-253.5\text{см}=1\text{см}$. Різниця між наближенням, $2\text{см}$, має похибку в 100% від розміру різниці справжніх значень, $1\text{см}$.

Нищівне скасування може статись навіть якщо різниця обчислена точно, як у прикладі вище — це не властивість якогось певного різновиду арифметики як-от з рухомою комою; радше це притаманне відніманню, коли входи це наближення. Насправді, в арифметиці з рухомою комою, коли входи достатньо близькі, вислід обчислення різниці точний, згідно з Шаблон:Нп немає похибки заокруглення через дію віднімання з рухомою точкою.

Формальний розгляд

Формально, нищівне знищення відбувається, бо віднімання погано обумовлене на близьких входах: навіть, якщо наближення $\tilde{x}=x(1+{\delta }_x)$ і $\tilde{y}=y(1+{\delta }_y)$ мають малі відносні похибки $|{\delta }_x|=|x-\tilde{x}|/|x|$ і $|{\delta }_y|=|y-\tilde{y}|/|y|$ щодо справжніх значень $x$ і $y$, відповідно, відносна похибка наближеної різниці $\tilde{x}-\tilde{y}$ від справжньої різниці $x-y$ зворотно пропорційна справжній різниці:

$$\begin{array}{cc}\tilde{x}-\tilde{y}& =x(1+{\delta }_x)-y(1+{\delta }_y)=x-y+x{\delta }_x-y{\delta }_y\\ & =x-y+(x-y)\frac{x{\delta }_x-y{\delta }_y}{x-y}\\ & =(x-y)(1+\frac{x{\delta }_x-y{\delta }_y}{x-y}).\end{array}$$

Отже, відносна похибка точної різниці наближень $\tilde{x}-\tilde{y}$ щодо різниці справжніх чисел $x-y$ це

$$\left|\frac{x{\delta }_x-y{\delta }_y}{x-y}\right|.$$

І вона може бути наскільки завгодно великою якщо справжні числа $x$ і $y$ близькі.

У числових алгоритмах

Приклад: Різниця квадратів

Маючи числа $x$ і $y$, наївна спроба обчислити математичну функцію $x^2-y^2$ з використанням арифметики з рухомою точкою $\mathrm{fl}(\mathrm{fl}(x^2)-\mathrm{fl}(y^2))$ призведе до нищівного скасування, якщо $x$ і $y$ близькі величини, бо віднімання може виявити похибки заокруглення під час піднесення до квадрату. Альтернативне представлення $(x+y)(x-y)$, обчислене в арифметиці з рухомою точкою таким чином $\mathrm{fl}(\mathrm{fl}(x+y)\cdot \mathrm{fl}(x-y))$, уникає нищівного скасування, бо уникає похибки заокруглення.

Наприклад, якщо $x=1+2^{-29}\approx 1.0000000018626451$ і $y=1+2^{-30}\approx 1.0000000009313226$, тоді справжнє значення різниці $x^2-y^2$ це $2^{-29}\cdot (1+2^{-30}+2^{-31})\approx 1.8626451518330422\times 10^{-9}$. В арифметиці IEEE 754 binary64, обчислення $(x+y)(x-y)$ дає правильний результат (без округлення), тоді як обчислення наївного виразу $x^2-y^2$ повертає таке число з рухомою точкою $2^{-29}=1.8626451\underset{\_}{4923095703125}\times 10^{-9}$, де правильні менш ніж половина цифр, а інші (підкреслені) цифри відображають загублені доданки $2^{-59}+2^{-60}$, втрачені через заокруглення під час обчислення проміжних квадратних значень.