平均値、標準偏差の有効数字について教えてください。

平均値、標準偏差の有効数字についてです。

0.5046,0.5089,0.5015,0.5365,0.5681
5つの実験データです。

平均値0.52392　標準偏差0.0253442222なのですが、有効数字は何桁ですか？

データ桁数に合わせて小数点以下4桁でいいのですか？

No.5 回答者： yhr2 回答日時： 2017/04/27 10:32

No.4です。

念のために、「誤差伝搬」の考え方や、四則演算でどう伝搬するかを解説したサイトを紹介しておきます。「観測データは、真値の周囲に正規分布する」というのが考え方のベースです。
http://www.tagen.tohoku.ac.jp/labo/ishijima/gosa …
http://www.tagen.tohoku.ac.jp/labo/ishijima/gosa …

No.4 回答者： yhr2 回答日時： 2017/04/27 10:18

No.1&2 です。

#3さんのように、「有効数字」という考え方を嫌う方もいます（データを厳密に取り扱う科学者・専門家に多いようです）。
確かに、「有効数字」という考え方には、数学的・統計学的な厳密さからするとあいまいさがあります。

そうはいっても、現実にはいろいろなデータを「実用的に」扱うときには、「有効数字」という考え方は簡易的で便利です。

この問題の場合、「誤差」という考え方をすると、各データは
　0.5046 ± 0.00005
　0.5089 ± 0.00005
　0.5015 ± 0.00005
　0.5365 ± 0.00005
　0.5681 ± 0.00005
という誤差を持つと考えられます。

「誤差伝搬」の考え方から、「平均値」の誤差は、平均値の計算が「5つ加算して、データ個数の5で割る」なので
　[ √(0.00005² + 0.00005² + 0.00005² + 0.00005² + 0.00005² ) ] /5
≒ 0.0000224
です。

　正確には、求めた「平均値」の数値に対して、
　　0.52392 ± 0.0000224
という評価をします。「0.5238976～0.5239424あたりにある確率が高い」ということです。

　これを、まあ、ざっくりと「最初の誤差 ± 0.00005とオーダー的に同程度」 とみなして、「平均値も、各データと同じ程度の誤差を持つ」「小数点以下5桁目を四捨五入すればだいたい妥当な数値になる」という処置をして、「0.52392 の5桁目を四捨五入して 0.5239 とする」というのが「有効数字」という取り扱いです。

　厳密には正確ではありませんが、実用的には「おおむね合っている」という数値になります。

　「有効数字は、数学的には厳密とは言えないが、おおむね妥当な数値になるので、実用上は便利に使える」という事情を知った上で、状況に応じた使い方をすればよいと思います。

No.3 回答者： rabbit_cat 回答日時： 2017/04/25 21:11

「有効数字」というのは、測定値と、そこに含まれる誤差、という質的に全く異なる２つの数値を無理やりまとめてひとつの数字にしてしまうというおかしな表記法でして、

科学的なレポートの中では、よほどの理由がない限り使わないほうがよい（というか、むしろ使ってはいけない）です。
基本的には、誤差を含む測定結果は
　測定値±誤差の大きさ
と、きちんと測定値と誤差を分けて書くようにしてください。
大学生でしょうか。学校で有効数字を使えと指示されたのでしょうか？
とりあえず、学校のレポートぐらいであれば、なんの指摘もうけないで通ってしまうかもしれませんが、
これが、もしちゃんとした論文なんかであれば、有効数字なんていう変な表記を使って書くと、レビュワーに「ちゃんと、測定値と誤差を分けて明示するように」と指摘されることになると思います。

それでも、あえて有効数字を使って表記したい、ということだとしても、
機械的に何桁まで、と決めるのではなくて、ちゃんと誤差の伝播を考えて桁数を決めてください。
たとえば、質問文にある実験値が同一の測定を繰り返したもの（真の値は同一と考えられる）、とするなら、
平均を取れば、誤差は、実験回数の平方根に反比例して減少します。
もとの実験データが４桁目まで正しい（誤差は、±0.00005)とするなら、
5つの平均値の誤差は、0.00005/√5 ≒ 0.00002 ですね。平均値の有功桁として４桁あるいは５桁になります（どちらにするかは微妙なところです）

No.2 回答者： yhr2 回答日時： 2017/04/25 21:02

No.1です。

計算手順として、まず「有効数字4桁」で「平均値」を求め、次にこの「有効数字4桁の平均値」を使って「標準偏差」を計算してください。不必要な桁を持った「平均値」で計算した「標準偏差」は、評価不能な「不正確さ」を持つことになってしまいますので。

No.1 回答者： yhr2 回答日時： 2017/04/25 20:52

もとのデータが「4桁」なら、計算値は5桁目を四捨五入して「4桁」にするのが普通の考え方です。

「5桁目には信頼性がない」ということです。

平均値0.52392　→ 0.5239
標準偏差0.0253442222　→　0.02534