物理実験に関する有効数字の考え方について教えてください。

物理実験に関する有効数字の考え方について教えてください。

No.3 ベストアンサー 回答者： yhr2 回答日時： 2019/05/13 12:18

有効数字とは、要するに「誤差」の簡易的な処理方法です。

「有効数字２桁」とは
　 0.XX ± 0.005　（あるいは X.X ± 0.05）
の誤差を持つ、
「有効数字５桁」とは
　 0.YYYYYY ± 0.000005　（あるいは Y.YYYY ± 0.00005）
の誤差を持つということです。

きちんと「誤差」を明記すべきところを、「有効数字」で簡易的に済ませているのです。
（「誤差」で表記した場合、
　　1.01 ± 0.005
と
　　9.89 ± 0.005
では、その「精度」は１桁近く違います。ではこの区別はできません）

「有効数字」の意味するところは、次のとおりです。
例えば「有効数字２桁」と「有効数字５桁」とのかけ算をすれば、その誤差は
　(0.XX ± 0.005) × (0.YYYYY ± 0.000005)
= 0.ZZZZZZZ ± (0.005 × 0.YYYYY + 0.000005 × 0.XX) + 0.25 × 10^(-7)
≒ 0.ZZZZZZZ ± 0.005
ぐらいになります。
（注：　0.ZZZZZZZ = 0.XX × 0.YYYYY　です）
いくら Z の部分を小数点以下たくさんとっても、結局誤差は ± 0.005 ですから、小数点以下3桁目以降は「誤差」と区別がつきません。つまり「信じられるのは2桁目まで」ということで、元の２つの数値のうち桁数の少ない「有効数字２桁」の方が結果の誤差の決定要因になります。
なので、計算結果の有効桁数は、この場合には「２桁」になってしまうのです。

正確・正式には、きちんと「誤差評価」をしないといけないのですが、これは結構面倒なので、「有効数字」という簡易判定で済ませているのです。ですから、「有効数字」をそんなに「厳密な」「高級な」ものと考える必要はありません。
正式な学術論文では「有効数字」などは使わずに、きちんと「誤差の範囲」を明記します。

あとは、最終的に得たい結果の「有効桁数」（要するに精度）があるのであれば、実験結果はそれを満足する精度で「計測」しなければいけないよいうことです。
「1/100」の精度で計測したものから、「1/10000」の精度の結果を得ることはできませんから。

No.2 回答者： masterkoto 回答日時： 2019/05/13 10:49

教科書などの巻末などに付録として書かれていますよ。

読んでく～ださい。

No.1 回答者： head1192 回答日時： 2019/05/13 10:40

最小目盛りの１/１０まで読み取れ