プロが教えるわが家の防犯対策術！

有限ビットでの問題

解決済

  • 質問者：sarasara3999
  • 質問日時：
  • 回答数：1件

　コンピューター内部での数値が、有限桁（有限ビット）で表現されているために生じている問題について教えてください。

通報する

この質問への回答は締め切られました。

質問の本文を隠す

A 回答 (1件)

No.1ベストアンサー

  • 回答者： sesame
  • 回答日時：

コンピュータは実数計算を有限の桁数でしか計算することができないので、正しいアルゴリズムを組んでも計算をするうちに桁末尾から誤差がだんだん広がってきてしまいます。


いわゆる表現精度の問題ですね。

例)
10÷3＝3.33333...
3.33333×3＝9.99999
    • good
    • 0
    • 件
通報する

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう！

Q質問する（無料）

ページトップページトップ

Q質問する（無料）

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング

おすすめ情報