桁落ち

用語の解説

桁落ちとは

(ケタオチ,cancellation of significant digits,)
桁落ちとは、浮動小数点数の計算において、絶対値が近い数値同士の減算をすると有効桁数が小さくなってしまうことである。
例えば、有効桁数4桁の0.1234と0.1233の減算結果は0.0001となり有効数字が1桁になってしまう。 これは固定小数点では発生しない。 有効桁数が小さい場合、計算を繰り返すと誤差が蓄積され、時として大きな誤差となることがある。 このように、計算途中の桁落ちの発生を考慮しないと大きな問題を引き起こす可能性がある。 桁落ちを回避するためには、浮動小数点を使う場合では計算の順序を変更したり、計算式の工夫により似たような数値同士の減算を回避する方法などがある。

用語解説出典   powered by. Weblio

PRSpecial

CNET Japan

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]