有効数字について

電気計器によって0.4, 0.8, 1.2, 0.9, 0.9, 0.4, 1.1, 1.0, 0.9, 1.3という測定結果を得ました。これらの平均値は有効数字が2桁の0.89か1桁の0.9のどちらになりますか？

No.3 ベストアンサー 回答者： rabbit_cat 回答日時： 2015/11/01 16:23

通常、有効数字というときは「桁数」を問題にしますが、これは実際には「掛け算」を含む演算をする場合だけです。

平均値を求めるときに行う演算は「足し算」なので、有効数字を出すときに考慮しないとけないのは、桁数ではなくて、最も有効桁位の大きい数がなにか、です。
上の質問の例でいえば、すべての計測結果が小数点以下第一位まで計測されているので、それを全て加算した結果も、小数点以下第一位までしか信用できないことになります。
したがって、平均値は、（有効桁１桁とるのではなくて）小数点以下第一位までとって、「0.9」とするのが普通でしょう。

ただ、質問のように平均値を考える場合には、単なる足し算よりも誤差は小さくなります。
（独立に測定した）ｎ個の測定値の平均をとると、誤差は1/√n になります。
上の例で言えば、それぞれの測定値には、最大±0.05の誤差があると考えられますが、10個の測定値の平均値の誤差は、0.05/√10 = 0.015 程度と考えてよいです。
したがって、有効桁２桁で「0.89」とするのも、絶対駄目とはいいきれないと思われます。

ちなみに、「有効数字」という考え方は、学校の教育ではよく教わりますが、実際の物理や工学などでは使われていません。
（使われていないはいいすぎかもしれませんが、少なくとも、シビアな誤差を本気で気にするような分野では使いません）
こういう分野では、通常、測定値そのもの（公称値）と、そこに含まれる誤差（不確かさ）を、きちんと分けて表記します。
例えば、1.234 (0.03) など。これは、公称値が1.234で、そこに含まれる不確かさ（通常は、σ）が0.03ということです。
有効数字を使えば、この測定値は、1.2 ということになりますが、これは、公称値と不確かさを、ごっちゃにして１つの数字にしてしまう、ある意味、乱暴なやり方です。
本来、誤差がどのように伝播するかは演算によって異なるので（例えば、上で書いたように、加算と乗算では頃なる）、有効数字の形では、複雑な演算結果の誤差を評価することができません。

この回答へのお礼

丁寧な説明ありがとうございました。これで何とかなりそうです。

お礼日時：2015/11/04 23:41

No.4 回答者： uen_sap 回答日時： 2015/11/04 16:35

足し算に有効数字云々とは余り言わない。

すべてのデータが少数点以下ひとけたですので、小数点以下ひとけたまで大体正しそうです。
すなわち、0.9を有効とすべきでしょう。

No.2 回答者： yhr2 回答日時： 2015/10/31 13:54

桁数でいうならば、「0.4」「0.8」「0.9」があるので「1桁」までしか有効ではありません。

「有効数字2桁」というよりも、「有効数字は小数点以下1位まで」と考えた方がよいかと思います。

従って、信用できる平均値は「0.9」です。

No.1 回答者： lupan344 回答日時： 2015/10/31 12:13

平均値の場合は、測定値の有効数字がそのままになりますから、0.9になります。

この回答へのお礼

ありがとうございます。測定値に1桁と2桁が混ざってたのでかなり悩んでました。本当に助かりました。

お礼日時：2015/10/31 12:25