何故1番と3番では有効数字3桁で荒らされているのに、 4番は2桁なんですか？

何故1番と3番では有効数字3桁で荒らされているのに、
4番は2桁なんですか？

No.2 回答者： yhr2 回答日時： 2023/05/21 13:38

有効数字に意味をきちんと理解していませんね。

というか、学校でもちゃんと教えないし、高校まででしか使われない「簡易方法」にすぎないからね。

「桁数」で議論するのは、本来「乗除算」での話です。

（１）では、
　0.400 とは 0.400 ± 0.0005 の「小数第４位」を四捨五入したもの
　６分20秒は 3860 ± 0.5 s の「秒の小数第１位」を四捨五入したもの
と考えて、
　(0.400 ± 0.0005) × (3860 ± 0.5) ≒ 1544 ± (1.93 ± 0.2）
この誤差（±1.95 程度）から「１の位」の値は「信用できない」として
　≒ 1.54 × 10^3
とするのが「有効数字」の考え方です。
（上の誤差計算は本当は「厳密」ではありませんが、こんなものということ）
乗除算では、「信用できる桁数」が維持されるとみなします。

これに対して、加減算では

（４）1.544 × 10^3 は、本来の有効桁数「３桁」からすると
　　(1.54 ± 0.005) × 10^3
　1.158 × 10^3 も、本来の有効桁数「３桁」からすると
　　(1.16 ± 0.005) × 10^3
です。これで計算すれば
　(1.54 ± 0.005) × 10^3 - (1.16 ± 0.005) × 10^3
≒ (0.38 ± 0.01) × 10^3
という誤差になって、「小数第３位」は「信用できない」ことになります（ひょっとすると「小数第２位」も怪しい）。
そのため、有効数字は「小数第２位」までと考えて
　≒ 0.38 × 10^3
　= 3.8 × 10^2
とするのです。
その結果、有効桁数が1つ減ってしまいます。（3桁→2桁）

ただ、これでは(1)(2)で「四捨五入」した誤差がますます大きくなってしまうので、(1)(2) の四捨五入する前の値を使って計算し、最終結果の「小数第３位」を四捨五入して「小数第２位」までを求めているのです。
（なので、2桁目の値が「1」違う。この辺が、「有効数字」が厳密な「誤差計算、誤差評価」ではないいい加減なところ）

以上のように、乗除算では「信用できる絶対桁、数字の位」が維持されるとみなします。
機械的に「桁数維持」で考えると、質問者さんのような疑問がわきますね。

有効数字は、下記のようなサイトで「考え方」を理解してください。
（「高校までの暫定的な簡易ルール。大学生以上は使用禁止」と書かれています）
https://eman-physics.net/math/figures.html

No.1 回答者： ありものがたり 回答日時： 2023/05/20 19:13

1.54 - 1.16 で有効数字が 2桁しかないからです。