丸め誤差

用語の解説

丸め誤差とは

(マルメゴサ,rounding error,round-off error,)
丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。
丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。 丸め処理は主に数値の桁数を揃えるために行われる。 例えば0.1234という数値を「小数点第4位以下切り捨て」によって丸めると、数値は0.123となる。 このとき0.004の誤差が生じる。 丸め誤差を含んだ値を使って計算を繰り返し行うと、誤差が蓄積し、計算結果が本来の値とずれてしまうことがある。 丸め誤差は、コンピュータの計算でよく生じる誤差の一つとして知られている。 同様の計算誤差としては、打ち切り誤差などがある。

用語解説出典   powered by. Weblio

CNET Japan

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]