電子書籍の厳選無料作品が豊富!

物理の計算のことです!
例えば有効数字を2桁に合わせる問題で立てた式を計算してる途中に◯◯,◯◯とか桁数が多くなってきた時は◯◯,◯のとこまでにして計算続けていいんですか?

質問者からの補足コメント

  • 物理の計算のことですが2個ありました。すいません(笑)

      補足日時:2017/11/26 16:49

A 回答 (1件)

通常は、有効桁数+2桁(以上)で計算していけばよいと思います。



しかし、同じ二桁数(四捨五入結果)でも、以下のように信頼度は大きく違います。
99±0.5 →±0.51%
11±0.5 →±4.55%
ご留意ください。
    • good
    • 0
この回答へのお礼

わかりました!ありがとうございますm(__)m

お礼日時:2017/11/26 19:18

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!