索引はこちら
「ケ」で始まる主なワード
ケ
桁落ち
その他の語句
用語の解説
桁落ちとは
（ケタオチ,cancellation of significant digits,）
桁落ちとは、浮動小数点数の計算において、絶対値が近い数値同士の減算をすると有効桁数が小さくなってしまうことである。
例えば、有効桁数4桁の0.1234と0.1233の減算結果は0.0001となり有効数字が1桁になってしまう。
これは固定小数点では発生しない。
有効桁数が小さい場合、計算を繰り返すと誤差が蓄積され、時として大きな誤差となることがある。
このように、計算途中の桁落ちの発生を考慮しないと大きな問題を引き起こす可能性がある。
桁落ちを回避するためには、浮動小数点を使う場合では計算の順序を変更したり、計算式の工夫により似たような数値同士の減算を回避する方法などがある。
CNET Japan
-
アップル次期CEOは「顔のデバイス」を完成させられるか？ ティム・クック氏が残した課題
アップルには、まだ1つの大きな製品分野が残されている。スマートグラスはついに「AirPods」のような成功を迎えるのだろうか？
