コンピューター内部での数値が、有限桁(有限ビット)で表現されているために生じている問題について教えてください。

A 回答 (1件)

コンピュータは実数計算を有限の桁数でしか計算することができないので、正しいアルゴリズムを組んでも計算をするうちに桁末尾から誤差がだんだん広がってきてしまいます。


いわゆる表現精度の問題ですね。

例)
10÷3=3.33333...
3.33333×3=9.99999
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!


人気Q&Aランキング