有効数字について 1.00×10^5÷(1.013-1.00)という計算はまずカッコ内を計算すると有

有効数字について
1.00×10^5÷(1.013-1.00)という計算はまずカッコ内を計算すると有効数字を考えると、少数第二位までが有効なので0.01となり次に割り算をすると有効数字に一桁になり1×10^7ということでいいのでしょうか？

No.2 ベストアンサー 回答者： yhr2 回答日時： 2021/10/06 10:33

＞まずカッコ内を計算すると有効数字を考えると、少数第二位までが有効なので0.01となり

高校生までの「有効数字」では、計算途中で勝手に桁数を落としてはいけません。
「有効数字」は、あくまで「最終結果」に対しての処理であり、しかも「与えられた最小桁にそろえる」というのがお約束です。

従って、
　1.00 * 10^5 /(1.013 - 1.00)
= 1.00 * 10^5 / 0.013
= 76.923･･･ * 10^5
≒ 7.69 * 10^6　　　　　　①

とするのが「正解とされる」解答だと思います。

高校までの「標準的な有効数字のお作法」では、あまり悩まずに上のように考えればよいと思います。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

ただし、この「有効数字」というものは、ちっとも厳密なものではなく、「簡易的な処理方法」に過ぎません。
実際の計算結果は、①のような「3桁」の精度など持ち合わせていません。
その意味では、質問者さんの感覚は非常に「科学的で正しい」と思います。


やってみれば

1.013 → 誤差を含めると 1.013 ± 0.0005　とみなせる
　（5桁目を四捨五入して4桁に丸めたもの、と考えられる）
1.00 → 誤差を含めると 1.00 ± 0.005　とみなせる
　（4桁目を四捨五入して3桁に丸めたもの、と考えられる）

これらを加減算したときには、2つの「ランダムな」誤差の組合せなので、誤差の期待値は
　√(0.0005^2 + 0.005^2) = 0.0050249･･･
となり、「カッコの中の引き算」の結果は、誤差も含めると
　 0.013 ± 0.005025　　　　②
とみなせます。
つまり、
　0.008～0.018　　　　③
という「精度もへったくれもない数値」です。
わずかな差しかない数値どうしの引き算では、このような「桁落ち」という現象が起こりえます。

質問者さんは、この「引き算」の段階で、「③、つまりほぼ0.01」と判断したのだと思います。
ただ、計算の途中で「誤差を丸めて」しまうと、その後の計算でそれをますます増殖させてしまいます。
従って、正しい計算は「②という誤差をもった数値」のまま計算を進め、最終結果まできちんと「誤差がどのようになって行くか」を評価しないといけません。

割られる数は
　1.00 * 10^5 → 誤差を含めると (1.00 ± 0.005) * 10^5　とみなせる
ということですから、割り算の結果の誤差は
　√{[(0.005 * 10^5) /0.013]^2 + [1.00 * 10^5 * 0.005025/0.013^2}
≒ 2.97 * 10^6
となり、全体の計算結果は

　 (7.69 ± 2.97) * 10^6
　
ぐらいです。（計算間違いがあるかもしれませんが）
つまり
　4.7 * 10^6 ～ 10.7 * 10^6
程度の幅のある数値であり（倍半分もばらついていますね）、これを「代表的な１つの数値」で表わすことは無理です。
質問者さんのおっしゃる
　1 * 10^7
は「まあまあ近い」という感じです。
ましてや、①の
　7.69 * 10^6
などは、「盛りすぎ、無意味に桁数が多い数値」であって、「3桁目」どころか「1桁目」から信用できない値です。

ただし、これらの「誤差評価」は大学生以上が使うやり方であり、高校までは、特にテストでは
「***********」
よりも上に書いた「有効数字のお作法」に従うしかないと思います。

以上のようなことを詳しく知りたければ、下記のようなサイトを眺めてみてください。
質問者さんの疑問は「引き算の作法」に出て来ます。
↓
https://eman-physics.net/math/figures.html
https://eman-physics.net/math/figures2.html

No.4 回答者： konjii 回答日時： 2021/10/07 09:36

計算の途中じゃなくて、計算の最後に有効数字の小さい方に揃えます。

No.2のやり方が正しいと思います。

No.3 回答者： tknakamuri 回答日時： 2021/10/06 13:06

途中で丸めを行なうのはルール違反だが、

有効数字の桁数見積は正しい。

1.013-1.00=0.013 は桁落ちで有効数字が一桁に下がっているので
結果は―桁とするべき。8×10^6 でよい。

この場合－桁でも盛りすぎだけど、有効数字は、その辺目つぶるのでしかたがない。

No.1 回答者： 銀鱗 回答日時： 2021/10/06 09:17

(´・ω・`)

　1.013：有効桁4桁
　1.00 ：有効桁3桁
　1.00×10⁷：有効桁3桁
だよね。

何を間違えているのか、何を勘違いしたのかをよく確認しましょう。