情報落ちとは（アンダーフロー誤差や打ち切り誤差）

情報落ちとは大きな値と絶対値の小さな値の加減算を行った際に絶対値の小さい値が計算結果に反映されないことによって生じる誤差の事です。

例えば以下のような足し算があったとします。

0.6789
+0.0000000000012
=0.6789000000012

となりますが、コンピュータで小数点4位までしか表現できないと仮定した場合0000000000012は省略されます。この誤差が情報落ちになります。

省略される理由

非常に小さい値というのは誤差としても非常に小さくなりますね。だからアンダーフローの部分を切り捨てるということになっているようです。

桁あふれ誤差には含まれない

桁あふれ誤差は最大値部分の桁が範囲を超えてしまう場合の誤差で情報落ちとは逆の桁あふれになります。