有効数字について質問です。 有効数字3桁の3.14と有効数字2桁の4.0をかけた時に3.14×4.0

有効数字について質問です。
有効数字3桁の3.14と有効数字2桁の4.0をかけた時に3.14×4.0=12.56となり、12.56を有効数字2桁にするために13とするのが有効数字の計算のルールとなっていますが、有効数字3桁の3.14は3.135〜3.144の範囲にあり、有効数字2桁の4.0は3.95〜4.04の範囲にあります。3.135×3.95=12.38325となり、有効数字3桁の3.14と有効数字2桁の4.0の掛け算では必ずしも答えが13に近くなるとは限らない、12に近くなることもあるということです。なのになんで答えを13とするのが有効数字の計算のルールとなっているのですか？

No.2 ベストアンサー 回答者： masterkoto 回答日時： 2018/03/14 13:03

説明の都合上4.0の方を例にとります。

4.0は普通の定規で計った結果で真の値は3.955であったとします。つまり、真の値3.955ｃｍを定規で計ったときの事であると。
通常定規は、１ｍｍ(0.1cm)までメモリがあるので、1桁目（ｃｍ）を読み間違えるのは想定できません。
次に、真の値が3.955cｍならば、１ｍｍの目盛の10分の１まで読み取ろうとするときに、3.95または3.96と読み取れる人が大多数だと思います。定規を使ってそれを目視で読み取る場合の人間の限界が普通はこの辺りです。よって、人によっては3.95、また別の人だと3.96となり3桁目は正確ではないという事になります。
それならば、ｍｍの目盛からはみ出る(3桁目の)部分は3.9cｍの目盛と4.0cｍの目盛のどちらに近いかというようにすれば、「定規を読み取ったら3.95だったよ。いや3.96だった」と言っているよりかえって正確になると言えます。
これが、、真の値3.955ｃｍを定規で計ったときに有効数字を2ケタにする理由と思われます。
3.14の方も、真の値が3.315以上3.145未満である場合、人間の力で正確に測定できる限界を考えると、有効数字を3桁として3.14としたほうがかえって正確だから、その有効数字を採用しているはずです。

では、測定値が3.315だった時、末尾の5は信頼できないからそれを四捨五入して3.14とするのではないのですか？それとも信頼できないから切り捨てるのですか？
＞＞＞測定値が3.315で有効数字が3桁と考えられる場合、普通は3.14とするものだと思います。
ただし、有効数字２ケタの4.0cmに円周率πをかけることになった場合は別で、与えられた4.0の有効桁数よりも1桁多く取って
4.0Xπ=4.0x3.14=12.5=13 とするのが普通だと思います。

No.1 回答者： masterkoto 回答日時： 2018/03/13 18:18

有効数字が3.14と4.0ということは、誤差を含まず信頼できる値は3.14と4.0(3桁と２桁まで)ということです。

それぞれの測定値は4桁目以下と3桁目以下に誤差を含み信頼できないという事になります。
すなわち測定したときには3.135と3.95と読み取れたとしても、それぞれの末尾の５は信頼できない数値です。
信頼できない数での計算結果は当然信頼できない物という事になります。したがって3.135×3.95=12.38325は信頼できない→不正確ということになり、採用されないという事ではないでしょうか。

この回答へのお礼

では、測定値が3.315だった時、末尾の5は信頼できないからそれを四捨五入して3.14とするのではないのですか？それとも信頼できないから切り捨てるのですか？

お礼日時：2018/03/13 19:40