桁落ち

用語の解説

桁落ちとは

(ケタオチ)

 浮動小数点演算で、計算結果が0に極端に近くなる加減算を行ったときに、有効数字の桁数が極端に少なくなる現象。

 例えば、「1.23456789x102-1.23456780x102」のような計算を行なうと、計算結果は「9x10-6」となり、有効数字の桁数は9桁から一気に1桁に減少してしまう。

 浮動小数点形式の値は内部的には常に有効数字の桁数を一定として扱っているため、桁落ちが発生すると、不足した桁数が自動的に0で埋められてしまい、真の値との間に誤差が発生する。 そして、桁落ちした数値に大きな数を掛けるなどの計算を行なうと、発生した誤差が上の桁に上がってくることによって、計算結果を無意味にするほどの大きな誤差を含んだ値が返されることになる。

 桁落ち自体による問題はコンピュータとは無関係に発生するが、コンピュータ上での桁落ちは、計算途中の値が分からない・結果の桁数が常に一定なので気づきにくいという特徴がある。

用語解説出典   powered by. IT用語辞典 e-Words

PRSpecial

CNET Japan

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]