浮動小数点演算

用語の解説

浮動小数点演算とは

(フドウショウスウテンエンザン)

コンピュータの計算方法のひとつ。

数を実数部と指数部に分け、これらをひと組にして表現する。 12345.67を「1.234567×10★4乗★」と表わす手法。 有効桁数を増やし、計算を正確に行なえるメリットがある。 浮動小数点形式のデータを用いた計算を浮動小数点演算と呼び、指数関数や三角関数といった科学技術計算に利用される。 浮動小数点演算を行なう専用のチップがFPU。 浮動小数点演算能力を表わす単位に「FLOPS」がある。

用語解説出典   powered by. アスキーデジタル用語辞典

CNET Japan

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    「デジタル・フォレンジック」から始まるセキュリティ災禍論--活用したいIT業界の防災マニュアル

  2. 運用管理

    「無線LANがつながらない」という問い合わせにAIで対応、トラブル解決の切り札とは

  3. 運用管理

    Oracle DatabaseのAzure移行時におけるポイント、移行前に確認しておきたい障害対策

  4. 運用管理

    Google Chrome ブラウザ がセキュリティを強化、ゼロトラスト移行で高まるブラウザの重要性

  5. ビジネスアプリケーション

    技術進化でさらに発展するデータサイエンス/アナリティクス、最新の6大トレンドを解説

ZDNET Japan クイックポール

注目している大規模言語モデル(LLM)を教えてください

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]