プロが教える店舗&オフィスのセキュリティ対策術

化学の計算関して質問です。
1.040、1.009という数があってこの和を求め、有効数字2桁にするといった場合求める有効数字+1で普通計算しますよね、それでやると
1.04+1.00=2.04で、四捨五入で求める数は2.0になります。
しかし、求める有効数字+1にとらわれず、素直にそのまま計算した場合
1.040+1.009=2.049になり、これを2.0にするには無理があるような気がするのですがこの場合どのように考えたらよいでしょうか?

質問者からの補足コメント

  • 1.043、1.009といった数の場合も、素直にそのまま計算すると
    2.052になり、2.1にもとれてしまいそうになります(四捨五入の関係で)。この場合も1.04+1.00で計算して2.0を答えとするのが正しいのでしょうか?

      補足日時:2019/02/15 12:09

A 回答 (2件)

>1.040+1.009=2.049になり、これを2.0にするには無理があるような気がするのですが



何故ですか?

2.050 以上なら四捨五入で 2.1 ですが、2.050 未満つまり 2.049 なら四捨五入で 2.0 です。
「有効数字2桁」なら「3桁目」で判断して四捨五入します。「4.9」も「四捨五入なら切り捨て」です。そこは機械的に。

>1.043、1.009といった数の場合も、素直にそのまま計算すると
>2.052になり、2.1にもとれてしまいそうになります(四捨五入の関係で)。

この場合には「2.1」になります。
「有効数字+1」で通常計算しますが(それ以上の桁をとってもどうせそれが「誤差」の場合)、「1.043、1.009」という数値がある場合には、この桁まで信用できるならこれで計算して、最終的なところで「有効数字+1で四捨五入」というのが最も誤差を小さくできます。

「有効数字」の運用は、機械的にやるのではなくも、「どれだけの誤差を含むか」ということを想定しながら行うのが原則です。
    • good
    • 1
この回答へのお礼

回答ありがとうございます。

お礼日時:2019/02/15 13:41

>>2.049になり、これを2.0にするには無理がある



なんで?
有効数字2指定なら2.0。どこが無理?

1.043+1.009=2.052:有効数字2桁なら、2.1
1.04+1.01=2.50:有効数字2桁なら、2.1
(1.009を有効数字3桁表記にしたら、1.01)
    • good
    • 1
この回答へのお礼

回答ありがとうございます。

お礼日時:2019/02/15 13:41

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!