災難性抵消

在數值分析中，災難性抵消（英語：catastrophic cancellation）^[1][2]是指兩個大小相近的數值的近似值相減，得到的差值可能和原始數值相減得到的真實的差值有很大差異，因而近似值的差值不能用作真實值差值的近似值。

例如，如果有兩個螺柱，一個長${\displaystyle L_{1}=254.5\,{\text{cm}}}$，另一個長${\displaystyle L_{2}=253.5\,{\text{cm}}}$，用厘米刻度的尺子測量其長度，得到的近似值為${\displaystyle {\tilde {L}}_{1}=255\,{\text{cm}}}$和${\displaystyle {\tilde {L}}_{2}=253\,{\text{cm}}}$。在相對誤差方面，它們是真實長度的良好的近似值：近似值的誤差小於真實長度的2%，即${\displaystyle |L_{1}-{\tilde {L}}_{1}|/|L_{1}|<2\%}$ 。

但是，如果用這些近似長度相減，則差值為${\displaystyle {\tilde {L}}_{1}-{\tilde {L}}_{2}=255\,{\text{cm}}-253\,{\text{cm}}=2\,{\text{cm}}}$，而長度之間的真實差值是${\displaystyle L_{1}-L_{2}=254.5\,{\text{cm}}-253.5\,{\text{cm}}=1\,{\text{cm}}}$。用近似值算出的差${\displaystyle 2\,{\text{cm}}}$，和用真實值算出的差${\displaystyle 1\,{\text{cm}}}$相比，偏離了100%。

即使差值計算本身是精確的，災難性抵消仍然有可能發生，如上例所示——它不是哪種類型的運算（如浮點運算）的屬性；當輸入值本身是近似值時，進行減法運算就必有災難性抵消。實際上，根據Sterbenz引理（英語：Sterbenz lemma），浮點運算中，當輸入值足夠接近時，浮點差可以精確計算——浮點減法運算本身並未引入捨入誤差。

形式分析

形式上，發生災難性抵消是因為減法運算對鄰近數值的輸入是病態的：即使近似值${\displaystyle {\tilde {x}}=x(1+\delta _{x})}$和${\displaystyle {\tilde {y}}=y(1+\delta _{y})}$與真實值${\displaystyle x}$和${\displaystyle y}$ 相比，相對誤差${\displaystyle |\delta _{x}|=|x-{\tilde {x}}|/|x|}$和${\displaystyle |\delta _{y}|=|y-{\tilde {y}}|/|y|}$不大，近似值差${\displaystyle {\tilde {x}}-{\tilde {y}}}$的與真實值差相對誤差也會與真實值差${\displaystyle x-y}$成反比：

${\displaystyle {\begin{aligned}{\tilde {x}}-{\tilde {y}}&=x(1+\delta _{x})-y(1+\delta _{y})=x-y+x\delta _{x}-y\delta _{y}\\&=x-y+(x-y){\frac {x\delta _{x}-y\delta _{y}}{x-y}}\\&=(x-y){\biggr (}1+{\frac {x\delta _{x}-y\delta _{y}}{x-y}}{\biggr )}\end{aligned}}}$

因此，兩個近似值的精確差值${\displaystyle {\tilde {x}}-{\tilde {y}}}$與真實數字差值${\displaystyle x-y}$的相對誤差為：

${\displaystyle \left|{\frac {x\delta _{x}-y\delta _{y}}{x-y}}\right|}$

如果真實輸入${\displaystyle x}$和${\displaystyle y}$很接近，結果可能會非常大。

參考文獻

1. Muller, Jean-Michel; Brunie, Nicolas; de Dinechin, Florent; Jeannerod, Claude-Pierre; Joldes, Mioara; Lefèvre, Vincent; Melquiond, Guillaume; Revol, Nathalie; Torres, Serge. Handbook of Floating-Point Arithmetic 2nd. Gewerbestrasse 11, 6330 Cham, Switzerland: Birkhäuser. 2018: 102 [2022-06-10]. ISBN 978-3-319-76525-9. doi:10.1007/978-3-319-76526-6. （原始內容存檔於2023-04-28）.
2. Goldberg, David. What every computer scientist should know about floating-point arithmetic. ACM Computing Surveys (New York, NY, United States: Association for Computing Machinery). March 1991, 23 (1): 5–48 [2020-09-17]. ISSN 0360-0300. S2CID 222008826. doi:10.1145/103162.103163. （原始內容存檔於2019-03-09）.