重要なお知らせ

「教えて! goo」は2025年9月17日(水)をもちまして、サービスを終了いたします。詳細はこちら>

【GOLF me!】初月無料お試し

けた落ちが誤差の理由が理解出来ていません。
有効桁数が減少するしても、計算結果に誤差は出てないようなので、なぜだか分かりません。

123.456 - 123.455 = 0.001

上記で有効桁数6桁から1桁になりますが、誤差の理由を教えて頂きたいです。
よろしくお願いします。

A 回答 (2件)

>計算時に、仮数部の表現範囲内に常に収まっている場合は、


>厳密には誤差ではないと言う理解で良いのでしょうか?

厳密には,と留保する必要はなく,その場合は明らかに誤差は生じません。
    • good
    • 0

http://oshiete.goo.ne.jp/qa/6190944.html の私の過去の回答ANo.2
    • good
    • 0
この回答へのお礼

回答ありがとうございます。
仮数部の表現範囲を超えたら・・・それは誤差だ!と思っていたのですが、具体例でより明確に理解出来ました。
ただ計算時に、仮数部の表現範囲内に常に収まっている場合は、厳密には誤差ではないと言う理解で良いのでしょうか?ちょっとモヤモヤしております・・・。

お礼日時:2011/04/19 23:14

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!