No.3ベストアンサー
- 回答日時:
いわゆる「有効数字」というものは、教科書は別として実際の実務ではあまり使われません。
というか、(法律がそうなっている、怖い上司に逆らえない、など)絶対に使わなければならないという事情がない限り、実務では使わないことを強く推奨します。
実際、近年のいわゆるちゃんとした論文であれば、有効数字なんていう(ある意味変な)表記法が使われることはまずないです。
「有効数字」という考え方は、本来は全く異なる2つの概念である、基準値と不確かさを、まとめて(無理やり)一つの数字で表してしまおうという一種の略記法なわけですが、
これはやはり少し無理がある方法でして、可能ならば、基準値と不確かさをきちんとわけて表示したほうがよいです。
例えば、基準値が1.025 で不確かさが0.05なら、ちゃんと 1.025±0.05 と分けて書きましょう。(「有効数字」を使うと、これが 1.0 という一つの数字になってしまいます)
基準値と不確かさをごっちゃにしてしまった「有効数字による表記法」でしか書かれていない測定値しかないと、
得られた測定値を複数個まとめて統計的な操作をする、なんていうことが事実上ほとんどできないんで、非常に不便です。
No.2
- 回答日時:
有効数字とは、たとえば、
a = 5.7
の場合には、本当の値は
5.65 ~ 5.749999・・・
のどこかにあり、それを「小数点以下 2桁目」で四捨五入したということです。
つまり、真値は
5.7 ± 0.05
であるということです。
(真値が
5.7 ± 0.00005
である場合には、小数点以下4桁目まで「有効」という意味で、
5.7000
と書きます)
これと、高精度の値
b = 1.2345
(上と同じように、真値は 1.2345 ± 0.00005 のどこかにある、ということ)
の掛け算をすると
a*b = 5.7 * 1.2345 = 7.03665
になりますが、上の「真値」で計算すると
a*b = (5.7 ± 0.05)*(1.2345 ± 0.00005)
= 7.03665 ± (0.061725 + 0.000285) + 0.0000025
ということで、± の中を見れば分かるとおり、「± 0.06201」程度の「誤差」があるということです。
つまり、a*b の真値は
6.97464 ~ 7.09866
ということです。
信用できるのは
7.0
ぐらいの範囲ということです。
つまり、b がどれほど高精度でも、a がこの程度の精度だと、a*b の結果の精度は「低い方の精度」にしかなりません。
上の例だと、「a の有効数字が2桁」なので、「a*b の計算結果の有効数字も2桁程度」ということです。「b の有効数字が5桁」であっても、有効数字の桁数が少ない「a 」で結果の「有効数字の桁数」が決まります。
「足し算」「引き算」の場合も同じようなことです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 計算機科学 99の問題なんですが、(1)を計算すると125になって有効数字三桁なので1.25×10^2mlかなと 3 2022/08/25 11:52
- 高校 有効数字の問題です。 2×1.41は2の有効数字は1で1.41の有効数字は3なので少ない方に合わせて 5 2022/05/14 18:22
- 計算機科学 この問題なぜ答えが有効数字2桁なんでしょうか、問題の数字は有効数字3桁なのに… 5 2022/06/17 10:06
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 数学 有効数字について この問題の答えが60.0分となっていたのですが、有効数字が3桁なのはどこから判断し 1 2022/04/06 13:16
- 物理学 丸め 5 2022/08/04 12:25
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
誤差について教えてください、...
-
シャトルランについて
-
高校生です。合成抵抗の測定値...
-
計算がわからない
-
N増しとは?
-
0の有効数字
-
誤差の範囲とは一体どういう意...
-
ヤング率の実験(測定)について
-
開平演算
-
Warder法(ワルダー法)の誤差に...
-
「体重をはかる」は量る?測る?
-
共振周波数の計算値と実測値
-
管理値、管理基準値、規格値の...
-
非直線性の単位【%R.O.】とは??
-
低圧絶縁抵抗測定について教え...
-
GOT・GPTのKarmen単位の算出法
-
トランスに繋がっている配線の...
-
レポートでの文体について
-
身体測定について 男です。木曜...
-
112を有効数字2桁で表せって言...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報