プロが教える店舗&オフィスのセキュリティ対策術

excelで引き算の計算をしたら、小数点以下が多くなりました。。
これは72.3-76.575をしました
76.575はxの平均であり、3981.9/52をして得られました
解決策分かる方いらっしゃいますか…?

「excelで引き算の計算をしたら、小数点」の質問画像

A 回答 (3件)

表示桁数を少なくする。


添付図参照です。
「excelで引き算の計算をしたら、小数点」の回答画像2
    • good
    • 2

単純な以下のような計算では、


72.3-76.575 = -7.27499999 ←このようにはなっていないようです。

この現象は、浮動小数点数丸め誤差というのですが、小数点を含む計算をするとき、コンピュータが2進数ですので、誤差が出てしまいます。だいたい小数100の内、半分以上に発生します。そこで、Microsoftでは、必要な桁数をROUND関数で丸めるように勧めています。

例:
=ROUND(演算, 3)

桁数を減らすと、表示で四捨五入しますが、それは、数値の過不足は補われていません。

https://support.microsoft.com/ja-jp/help/78113/f …
    • good
    • 2

表示桁数(小数点以下)を設定してください。

任意に設定できます。
    • good
    • 1

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!