統計における有効数字

何かしらの統計を取る際、有効数字が重要だそうですがこの有効数字とはいったい何なのでしょうか。

No.3 ベストアンサー 回答者： rabbit_cat 回答日時： 2016/09/30 01:52

いわゆる「有効数字」というものは、教科書は別として実際の実務ではあまり使われません。

というか、（法律がそうなっている、怖い上司に逆らえない、など）絶対に使わなければならないという事情がない限り、実務では使わないことを強く推奨します。
実際、近年のいわゆるちゃんとした論文であれば、有効数字なんていう（ある意味変な）表記法が使われることはまずないです。

「有効数字」という考え方は、本来は全く異なる２つの概念である、基準値と不確かさを、まとめて（無理やり）一つの数字で表してしまおうという一種の略記法なわけですが、
これはやはり少し無理がある方法でして、可能ならば、基準値と不確かさをきちんとわけて表示したほうがよいです。
例えば、基準値が1.025 で不確かさが0.05なら、ちゃんと 1.025±0.05 と分けて書きましょう。（「有効数字」を使うと、これが 1.0 という一つの数字になってしまいます）

基準値と不確かさをごっちゃにしてしまった「有効数字による表記法」でしか書かれていない測定値しかないと、
得られた測定値を複数個まとめて統計的な操作をする、なんていうことが事実上ほとんどできないんで、非常に不便です。

No.2 回答者： yhr2 回答日時： 2016/09/29 23:11

有効数字とは、たとえば、

　　a = 5.7
の場合には、本当の値は
　　5.65 ～ 5.749999･･･
のどこかにあり、それを「小数点以下 2桁目」で四捨五入したということです。

つまり、真値は
　　5.7 ± 0.05
であるということです。
（真値が
　　5.7 ± 0.00005
である場合には、小数点以下4桁目まで「有効」という意味で、
　　5.7000
と書きます）

これと、高精度の値
　　b = 1.2345
（上と同じように、真値は 1.2345 ± 0.00005 のどこかにある、ということ）
の掛け算をすると

　a*b = 5.7 * 1.2345 = 7.03665

になりますが、上の「真値」で計算すると

　a*b = (5.7 ± 0.05)*(1.2345 ± 0.00005)
　　　= 7.03665 ± (0.061725 + 0.000285) + 0.0000025

ということで、± の中を見れば分かるとおり、「± 0.06201」程度の「誤差」があるということです。
　つまり、a*b の真値は
　　　6.97464 ～ 7.09866
ということです。
　信用できるのは
　　　7.0
ぐらいの範囲ということです。

　つまり、b がどれほど高精度でも、a がこの程度の精度だと、a*b の結果の精度は「低い方の精度」にしかなりません。

　上の例だと、「a の有効数字が2桁」なので、「a*b の計算結果の有効数字も2桁程度」ということです。「b の有効数字が5桁」であっても、有効数字の桁数が少ない「a 」で結果の「有効数字の桁数」が決まります。

　「足し算」「引き算」の場合も同じようなことです。

No.1 回答者： bendoku 回答日時： 2016/09/29 20:16

こちらが参考になるでしょう。

http://ms-laboratory.jp/zai/pdf/effec/eff.htm