桁あふれ誤差とはコンピュータが扱える最大値や最小値を超えた桁の数を扱うときに発生する誤差です。
例えば無限小数などは永遠に桁が続くので桁あふれ誤差になります。
アンダーフロー
最小値を超えてしまうことを言います。
オーバーフロー
最大値を超えてしまうことを言います。
桁あふれ誤差とはコンピュータが扱える最大値や最小値を超えた桁の数を扱うときに発生する誤差です。
例えば無限小数などは永遠に桁が続くので桁あふれ誤差になります。
最小値を超えてしまうことを言います。
最大値を超えてしまうことを言います。
コメントを残す