No.3ベストアンサー
- 回答日時:
有効数字とは、要するに「誤差」の簡易的な処理方法です。
「有効数字2桁」とは
0.XX ± 0.005 (あるいは X.X ± 0.05)
の誤差を持つ、
「有効数字5桁」とは
0.YYYYYY ± 0.000005 (あるいは Y.YYYY ± 0.00005)
の誤差を持つということです。
きちんと「誤差」を明記すべきところを、「有効数字」で簡易的に済ませているのです。
(「誤差」で表記した場合、
1.01 ± 0.005
と
9.89 ± 0.005
では、その「精度」は1桁近く違います。ではこの区別はできません)
「有効数字」の意味するところは、次のとおりです。
例えば「有効数字2桁」と「有効数字5桁」とのかけ算をすれば、その誤差は
(0.XX ± 0.005) × (0.YYYYY ± 0.000005)
= 0.ZZZZZZZ ± (0.005 × 0.YYYYY + 0.000005 × 0.XX) + 0.25 × 10^(-7)
≒ 0.ZZZZZZZ ± 0.005
ぐらいになります。
(注: 0.ZZZZZZZ = 0.XX × 0.YYYYY です)
いくら Z の部分を小数点以下たくさんとっても、結局誤差は ± 0.005 ですから、小数点以下3桁目以降は「誤差」と区別がつきません。つまり「信じられるのは2桁目まで」ということで、元の2つの数値のうち桁数の少ない「有効数字2桁」の方が結果の誤差の決定要因になります。
なので、計算結果の有効桁数は、この場合には「2桁」になってしまうのです。
正確・正式には、きちんと「誤差評価」をしないといけないのですが、これは結構面倒なので、「有効数字」という簡易判定で済ませているのです。ですから、「有効数字」をそんなに「厳密な」「高級な」ものと考える必要はありません。
正式な学術論文では「有効数字」などは使わずに、きちんと「誤差の範囲」を明記します。
あとは、最終的に得たい結果の「有効桁数」(要するに精度)があるのであれば、実験結果はそれを満足する精度で「計測」しなければいけないよいうことです。
「1/100」の精度で計測したものから、「1/10000」の精度の結果を得ることはできませんから。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
誤差率が1%はおおきいですか?...
-
マイナスを含むデータの平均と分散
-
身長計。学校にあるやつ、病院...
-
表面抵抗の表現方法について教...
-
直線性について
-
0.5797を少数第3位まで求めよと...
-
教科書に問題文の数値が整数の...
-
23÷23×100⁼100.0(%)?
-
RS232C 調歩同期のビットレート...
-
振動について
-
molにはどうして後に000がつ...
-
素朴な疑問、なぜ高層ビルは1...
-
逆数の誤差
-
対数グラフでエラーバーを追加...
-
エクセル ROUNDDOWN...
-
周波数確度ppmとは。
-
身長測って174.5cmで公称で175...
-
【エクセル】グラフ誤差範囲の0...
-
最小二乗法
-
マイクロメータで起こる現象(...
おすすめ情報