この問題の(2)なぜ答えが有効数字1桁なんですか？自分は有効数字2桁で3.7×10^3にしました

この問題の(2)なぜ答えが有効数字1桁なんですか？自分は有効数字2桁で3.7×10^3にしました

No.2 回答者： yhr2 回答日時： 2023/02/12 00:43

No.1 です。

ちょっと補足。

あなたのお示しのものは「引き算による桁落ち」という現象です。
#1 の最後に挙げたリンク先の「引き算の作法」にも書いてあるように

　76.859 - 76.8433 = 0.0157

では、左辺の第1項が「小数3桁まで」しか有効ではないので、計算結果も「小数3桁まで」として

　≒ 0.016

が最終結果になります。
つまり、もともと「有効桁5桁」と「有効桁6桁」の数値どうしで計算しているにもかかわらず、最終結果は「有効数字2桁」に減ってしまいます。
これを「桁落ち」とよびます。

あなたのお示しの例でも、「万の位と千の位」が有効な2つの数の引き算で、「万の位」が消えて「千の位」だけの結果になってしまうのです。
有効桁の「桁落ち」です。
有効桁2桁（万の位と千の位）が、引き算の結果で有効1桁（千の位のみ）になってしまっているのです。

なので、最終結果が「千の位の1桁」ということになるのです。
あなたの答
　3.7 × 10^3 = 3700
の「百の位」は信頼できないので有効ではありません。

No.1 回答者： yhr2 回答日時： 2023/02/12 00:00

水蒸気圧を求める式は、指数表示ではない「生の値」で書けば

　66000 [Pa] - 62250 [Pa] = 3750 [Pa]
ということです。

左辺のうち、信用できるのは「1000の位」までであり、
ということは右辺も「1000の位」までしか信用できません。
なので、計算結果を「1000の位」までの値として
　4000 [Pa]
にしています。

「有効数字」というのは「誤差評価」の簡易版に過ぎません。
「桁数」で処理するのは「乗除算」であって、「加減算」では「有効な絶対桁」で処理します。

例えば
　2.5 + 15.001 = 17.501　　　①
だとしたら、小数第1位までは信用できるので
17.5
が有効数字を考慮した結果になるでしょう。
「2桁だから 18 だ」
としたら、かえって誤差が増えます。

①の式は、各々「表示された1つ下の桁を四捨五入したもの」と考えて
　(2.5 ± 0.05) + (15.001 ± 0.0005)
＝17.5001 ± 0.0505
と考えれば「17.5」とすることが妥当だと判断できるはずです。
「有効数字」の考え方とはそういうものです。


基本的な考え方は、こんなサイトを参考にしてください。
↓
https://eman-physics.net/math/figures.html