浮動小数点演算

用語の解説

浮動小数点演算とは

(フドウショウスウテンエンザン)

コンピュータの計算方法のひとつ。

数を実数部と指数部に分け、これらをひと組にして表現する。 12345.67を「1.234567×10★4乗★」と表わす手法。 有効桁数を増やし、計算を正確に行なえるメリットがある。 浮動小数点形式のデータを用いた計算を浮動小数点演算と呼び、指数関数や三角関数といった科学技術計算に利用される。 浮動小数点演算を行なう専用のチップがFPU。 浮動小数点演算能力を表わす単位に「FLOPS」がある。

用語解説出典   powered by. アスキーデジタル用語辞典

PRSpecial

CNET Japan

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]