丸め誤差

丸め誤差とは表現できる桁数を超えた際に起こる誤差です。

最小桁より小さい部分を四捨五入や切り上げ、切り捨てなどを行い生じます。

どんな時に起こるか?

10進数の少数では2新数で表せないものがあります。

例えば10進数の0.1を2進数で表現してみましょう。

0 . 0001 1001 1001 1001 1001 1001・・・

無限小数になります。
この場合ものすごく小さい誤差のように見えますが、お金の利息計算などの場合繰り返し計算するととても大きい誤差に発展したりします。


投稿日

カテゴリー:

, , ,

投稿者:

タグ:

コメント

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

CAPTCHA


日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)