丸め誤差
その他の語句
用語の解説
丸め誤差とは
(マルメゴサ,rounding error,round-off error,)
丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。
丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。
丸め処理は主に数値の桁数を揃えるために行われる。
例えば0.1234という数値を「小数点第4位以下切り捨て」によって丸めると、数値は0.123となる。
このとき0.004の誤差が生じる。
丸め誤差を含んだ値を使って計算を繰り返し行うと、誤差が蓄積し、計算結果が本来の値とずれてしまうことがある。
丸め誤差は、コンピュータの計算でよく生じる誤差の一つとして知られている。
同様の計算誤差としては、打ち切り誤差などがある。
CNET Japan
-
ドコモ・バイクシェアの障害、あす7日復旧へ--背景に「NOLL」刷新へのシステム移行
「NOLL(ノル)」へのブランド刷新を9月に控えたドコモ・バイクシェアで、システム移行に伴う大規模障害が発生した。全エリアでの提供停止は4日間以上に及び、NTTドコモの前田社長が決算会見で謝罪する事態となった。
