打ち切り誤差

用語の解説

打ち切り誤差とは

(ウチキリゴサ,truncation error,)
打ち切り誤差とは、全ての演算が終了する前に、あらかじめ指定された法則に従って演算が打ち切られる、そのことによって生じる誤差のことである。
コンピューターで数式などの解を求める際に、計算を繰り返し実行させることで値を近似させるとき、ある一定時間を超えたところで演算は終了される。 そのようにして得られた値と真の値との間に生じた誤差が、打ち切り誤差と呼ばれる。

用語解説出典   powered by. Weblio

ZDNET Japan クイックポール

マイナンバーカードの利用状況を教えてください

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]