No.2ベストアンサー
- 回答日時:
>まずカッコ内を計算すると有効数字を考えると、少数第二位までが有効なので0.01となり
高校生までの「有効数字」では、計算途中で勝手に桁数を落としてはいけません。
「有効数字」は、あくまで「最終結果」に対しての処理であり、しかも「与えられた最小桁にそろえる」というのがお約束です。
従って、
1.00 * 10^5 /(1.013 - 1.00)
= 1.00 * 10^5 / 0.013
= 76.923・・・ * 10^5
≒ 7.69 * 10^6 ①
とするのが「正解とされる」解答だと思います。
高校までの「標準的な有効数字のお作法」では、あまり悩まずに上のように考えればよいと思います。
***********************
ただし、この「有効数字」というものは、ちっとも厳密なものではなく、「簡易的な処理方法」に過ぎません。
実際の計算結果は、①のような「3桁」の精度など持ち合わせていません。
その意味では、質問者さんの感覚は非常に「科学的で正しい」と思います。
やってみれば
1.013 → 誤差を含めると 1.013 ± 0.0005 とみなせる
(5桁目を四捨五入して4桁に丸めたもの、と考えられる)
1.00 → 誤差を含めると 1.00 ± 0.005 とみなせる
(4桁目を四捨五入して3桁に丸めたもの、と考えられる)
これらを加減算したときには、2つの「ランダムな」誤差の組合せなので、誤差の期待値は
√(0.0005^2 + 0.005^2) = 0.0050249・・・
となり、「カッコの中の引き算」の結果は、誤差も含めると
0.013 ± 0.005025 ②
とみなせます。
つまり、
0.008~0.018 ③
という「精度もへったくれもない数値」です。
わずかな差しかない数値どうしの引き算では、このような「桁落ち」という現象が起こりえます。
質問者さんは、この「引き算」の段階で、「③、つまりほぼ0.01」と判断したのだと思います。
ただ、計算の途中で「誤差を丸めて」しまうと、その後の計算でそれをますます増殖させてしまいます。
従って、正しい計算は「②という誤差をもった数値」のまま計算を進め、最終結果まできちんと「誤差がどのようになって行くか」を評価しないといけません。
割られる数は
1.00 * 10^5 → 誤差を含めると (1.00 ± 0.005) * 10^5 とみなせる
ということですから、割り算の結果の誤差は
√{[(0.005 * 10^5) /0.013]^2 + [1.00 * 10^5 * 0.005025/0.013^2}
≒ 2.97 * 10^6
となり、全体の計算結果は
(7.69 ± 2.97) * 10^6
ぐらいです。(計算間違いがあるかもしれませんが)
つまり
4.7 * 10^6 ~ 10.7 * 10^6
程度の幅のある数値であり(倍半分もばらついていますね)、これを「代表的な1つの数値」で表わすことは無理です。
質問者さんのおっしゃる
1 * 10^7
は「まあまあ近い」という感じです。
ましてや、①の
7.69 * 10^6
などは、「盛りすぎ、無意味に桁数が多い数値」であって、「3桁目」どころか「1桁目」から信用できない値です。
ただし、これらの「誤差評価」は大学生以上が使うやり方であり、高校までは、特にテストでは
「***********」
よりも上に書いた「有効数字のお作法」に従うしかないと思います。
以上のようなことを詳しく知りたければ、下記のようなサイトを眺めてみてください。
質問者さんの疑問は「引き算の作法」に出て来ます。
↓
https://eman-physics.net/math/figures.html
https://eman-physics.net/math/figures2.html
No.3
- 回答日時:
途中で丸めを行なうのはルール違反だが、
有効数字の桁数見積は正しい。
1.013-1.00=0.013 は桁落ちで有効数字が一桁に下がっているので
結果は―桁とするべき。8×10^6 でよい。
この場合-桁でも盛りすぎだけど、有効数字は、その辺目つぶるのでしかたがない。
No.1
- 回答日時:
(´・ω・`)
1.013:有効桁4桁
1.00 :有効桁3桁
1.00×10⁷:有効桁3桁
だよね。
何を間違えているのか、何を勘違いしたのかをよく確認しましょう。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 計算機科学 99の問題なんですが、(1)を計算すると125になって有効数字三桁なので1.25×10^2mlかなと 3 2022/08/25 11:52
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
- 計算機科学 誤差計算について (10±1)+[(6.0±0.2)×(3.0±0.2)] (10±1)/[(2.0 6 2023/04/26 18:48
- 化学 120.0gのアンモニア(分子量17.03)が75℃で11.40dm^3の体積を占めるときの圧力を( 1 2023/04/24 00:21
- その他(自然科学) 論文のまとめに関して(小論文)添削お願いします。 6 2023/07/16 14:24
- 物理学 「NHKの時報の音は、振動数が440Hzです。この音の波長を求めましょう。ただし、音の伝わる速度を3 6 2023/03/02 18:24
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
小数点の引き算
-
2進数の割り算が分かりません...
-
数字3桁の組み合わせの何通り...
-
エクセル:6E-05という表現は?
-
3÷7のあまりは「3」ですか?
-
数学の階乗はどんな時に使うの...
-
3分の1とは何パーセントでしょ...
-
基数変換
-
数値とアルファベットに分ける...
-
√2の値はなぜ1.414…になるんで...
-
Excelでの有効数字の合わせ方に...
-
3桁の数字は何通りですか?
-
です。 0.008020 の有効数字は...
-
NUMBER(N,M) としたときの、格...
-
小数と分数を2進数に直すやり方...
-
ある自然数が7で割り切れるか...
-
3の倍数かつ奇数である数
-
電話番号のハイフンの入れ方
-
算数です。 割り算の筆算で、商...
-
好きな数字が並ぶ不思議?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
2進数の割り算が分かりません...
-
エクセル:6E-05という表現は?
-
数字3桁の組み合わせの何通り...
-
数値とアルファベットに分ける...
-
60進法と10進法
-
3÷7のあまりは「3」ですか?
-
NUMBER(N,M) としたときの、格...
-
電話番号のハイフンの入れ方
-
EXCELで10万未満切捨ての...
-
数学の階乗はどんな時に使うの...
-
エクセル関数で桁数指定し数値...
-
です。 0.008020 の有効数字は...
-
関数電卓の表示方法を変更したい
-
3分の1とは何パーセントでしょ...
-
0以下の数字は何桁?
-
10進法の数を60進法の数に...
-
エクセルのsumifの検索値
-
【場合の数】 2桁の自然数で、2...
-
0.120は有効数字何桁ですか? ...
-
10進数で123を2進数で表わすと...
おすすめ情報