プロが教える店舗&オフィスのセキュリティ対策術

0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。
上記のはかりを用いて秤量した場合で、たとえば
 2.3345gと10.2325g
という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。

A 回答 (1件)

こんばんは。



>>>0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。

0.0001の精度で測れるのと、0.0001の位まで表示されることとは違います。
前者であれば、小数第4位(小数点以下四桁)までが有効となります。



>>>
上記のはかりを用いて秤量した場合で、たとえば
2.3345gと10.2325g
という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。

当然、有効数字の桁数は異なります。
精度(小数第何位まで有効か)は同じです。

掛け算・割り算では、有効数字が少ないほうに合わせますが、
足し算・引き算では精度が悪いほう(小数点以下の桁数が少ないほう)に合わせます。


以上、ご参考になりましたら幸いです。
    • good
    • 1

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています