高校物理の問題です。

高校物理の問題です。有効数字について教えてください。

物理の問題で、「Ａ×Ｂの答えを有効数字２ケタで答えなさい」という問題があったとします。

通常、有効数字２ケタで答える場合、過程の計算式としては有効数字３ケタを使って計算すると思います。

もし、Ａの数値が3.526・・・・ 、
Ｂの数値が4.386・・・・だった場合,

A×Ｂの計算としては、

① 3.52×4.38 で計算しますか？（＝４ケタ目は切り捨てる）

それとも

② 3.53×4.39 で計算しますか？ （＝４ケタ目は四捨五入する）

No.1 回答者： sandaba 回答日時： 2019/12/17 22:30

どっちが近い値出るか実際に試してみることをお勧めします。

No.2 回答者： yhr2 回答日時： 2019/12/17 23:44

＞通常、有効数字２ケタで答える場合、過程の計算式としては有効数字３ケタを使って計算すると思います。

いいえ。計算上の誤差を増やさないようにできるだけ大きな桁数で計算して、最後に「有効数字２ケタ」に丸めます。
だって、
　3.526・・・
　4.386・・
って、どこにも「誤差」が入っていない「真値」なんでしょう？　
それをわざわざ「桁数を限って概数に変えて計算する」必要はありません。

途中でどんどん「有効数字３ケタ」に丸めて計算していくということは、どんどん「丸め誤差」を大きくしていくことになりますから。

＞もし、Ａの数値が3.526・・・・ 、
＞Ｂの数値が4.386・・・・だった場合,

この5桁目以降が不明であっても、4桁目までは「正しい」数値なのですから、そのまま計算して
　3.526・・× 4.386・・ = 15.465036･･･
　　　　　　　　　　　　≒ 15.5
とするのがよいと思います。

もし「3桁の丸めてから計算する」ということなら
　3.526・・≒ 3.53 （4桁目を四捨五入）
　4.386・・≒ 4.39 （4桁目を四捨五入）
これから
　3.53 × 4.39 = 15.4967 ≒ 15.5 （4桁目を四捨五入）

「有効数字」とは、本来きちんと「誤差表記」をしなければいけないところを、「桁数」を限ることで「代用」しているのに過ぎません。

3桁の数値「3.53」「4.39」があったときに、それは
　3.53 ± 0.005
　4.39 ± 0.005
の誤差を持っていると解釈できます。

これをかけ算すれば
　(3.53 ± 0.005) × (4.39 ± 0.005)
= 15.4967 ± 0.0396 + 0.000025
≒ 15.4967 ± 0.0396-

つまり、おおよそ
　15.4571～15.5363
あたりにありそう、ということになります。（統計学的には、誤差範囲はもう少し小さくなりますが）
つまり、計算結果も
　15.5 ± 0.04
ぐらいの値だということになります。
ということで、元の数値が「3桁 ± 誤差」だと、計算結果も「3桁 ± 誤差」ぐらいの数値になるということで、「± 誤差」の表記を省略して、
　3.53 × 4.39 ≒ 15.5
というような書き方をすることにしているのです。計算結果の「4桁目」は誤差の範囲に入ってしまい、信用できないとみなすからです。

質問者さんが例に挙げた「3.526・・・・」「4.386・・・」は「誤差を含まない真値」ですから、桁数を切って計算する必要はありません。最後の結果で何桁まで表記するかを決めればよいだけです。
初めから桁数を限って表記された数値にのみ、「有効数字」という考え方を適用します。

No.3 回答者： masterkoto 回答日時： 2019/12/18 11:13

AとBって測定値ですか？

それとも途中計算で現れた数値ですか？
状況によって異なりますよ