丸め誤差

丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。 丸め処理は主に数値の桁数を揃えるために行われる。 例えば0.1234という数値を「小数点第4位以下切り捨て」によって丸めると、数値は0.123となる。 このとき0.004の誤差が生じる。 丸め誤差を含んだ値を使って計算を繰り返し行うと、誤差が蓄積し、計算結果が本来の値とずれてしまうことがある。 丸め誤差は、コンピュータの計算でよく生じる誤差の一つとして知られている。 同様の計算誤差としては、打ち切り誤差などがある。