有効数字の引き算

有効数字の引き算いついてなんですが、32.1-32.05は答えはどうなるのですか？
0.1ですか？

No.1 ベストアンサー 回答者： miuasa 回答日時： 2008/02/14 13:31

有効数字小数点以下第一位ですので、0.1でよいとおもいます。

この回答へのお礼

しょうもない質問にすばやく回答いただいてありがとうございます。
ありがとうございました。

お礼日時：2008/02/14 15:34

No.2 回答者： key-boy 回答日時： 2008/02/15 14:38

有効数字は小数第一位ですから、小数第一位にそろえると

32.1-32.1＝0になります。
32.05≦32.1＜32.15の範囲なので小数第二位の数字はわかりません。
小数第二位の計算はできません。よって、
32.1-32.05=0.05→0.1は間違いです。

この回答へのお礼

計算前に小数第一位にそろえるのですか？
自分でもっと勉強してみますありがとうございました。

お礼日時：2008/02/17 00:47