丸め誤差とは表現できる桁数を超えた際に起こる誤差です。
最小桁より小さい部分を四捨五入や切り上げ、切り捨てなどを行い生じます。
どんな時に起こるか?
10進数の少数では2新数で表せないものがあります。
例えば10進数の0.1を2進数で表現してみましょう。
0 . 0001 1001 1001 1001 1001 1001・・・
無限小数になります。
この場合ものすごく小さい誤差のように見えますが、お金の利息計算などの場合繰り返し計算するととても大きい誤差に発展したりします。
丸め誤差とは表現できる桁数を超えた際に起こる誤差です。
最小桁より小さい部分を四捨五入や切り上げ、切り捨てなどを行い生じます。
10進数の少数では2新数で表せないものがあります。
例えば10進数の0.1を2進数で表現してみましょう。
0 . 0001 1001 1001 1001 1001 1001・・・
無限小数になります。
この場合ものすごく小さい誤差のように見えますが、お金の利息計算などの場合繰り返し計算するととても大きい誤差に発展したりします。
コメントを残す