有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな

有効数字の取り扱いについて
高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようになっていますが、この処理方法はあくまで便宜的なものですよね。例えば1.23*1.23=1.5129という計算では、2桁目から不確かさを含むようになり、有効数字は2桁とする方が正確であると思います。

No.2 ベストアンサー 回答者： tknakamuri 回答日時： 2022/06/30 14:30

2桁にすると誤差が最悪倍くらいに増えます。

多少不確かさが有っても、第二位の数は残すべきなのです。

No.4 回答者： masterkoto 回答日時： 2022/06/30 16:00

有効数字3桁の1.22が表す

本当の値は
1.215~1.225
のいづれか数値
その二乗では
最小なら
1.215×1.215=1.476225
最大なら
1.225×1.225=1.500625
本当の掛け算の値はこの範囲内の数値

さて、ここで
1.22×1.22=1.4884で
二桁まででいいや
として
この数値を1.5とまるめるのと
3桁まで計算するべきだとして
1.49とするのでは
後者のほうが真の値1.476225~1.500625
に近いでしょうか？
後者ですよね
やはり、この掛け算でも
有効数字3桁とするべき

この回答へのお礼

他の方の回答のお礼にも書いたのですが、有効数字を3桁で1.49とすると、真の値が1.485~1.495であることを表すのでは？と考えています。測定値と計算値の有効数字の考え方は別物でしょうか？もちろん3桁で取った方が真の値には近いと思いますが、表す範囲として正確さにかけると思ってこのやり方が便宜的なものだと考えました。

お礼日時：2022/06/30 16:42

No.3 回答者： tsuyoshi2004 回答日時： 2022/06/30 15:12

算式で考えると

1.23×1.23というのは、
1.225×1.225=1.500625～1.235×1.235=1.525225
ということになります。
そうすると、信頼できるのは1.5までとなるのですが、
この1.5とすると+0.00625～+0.25225の誤差を持つことになります。
一方で1.5129→1.51は-0.00575～+0.15225の誤差を持つので、1.51の方がより誤差の少ない表記となります。

この回答へのお礼

有効数字の最後の桁は四捨五入で求めたものという前提で考えていたのが間違っていたということですかね？3桁で1.51とすると、1.515以上1.525225未満の真の値の可能性が排除されているように思い2桁の方が良いと考えたのですが、測定値と違って計算値は範囲を示しているわけではないと考えるのが良いのでしょうか？

お礼日時：2022/06/30 15:55

No.1 回答者： masterkoto 回答日時： 2022/06/30 14:26

なにか誤解してるようですが

有効数字3桁どうしの掛け算ということなら
1.23は3桁目に誤差を含んでいて
それが表す値は
1.225~1.235の範囲内
1.23×1.23が表す値は
最小で1.225×1.225=1.500625
最大で1.235×1.235=1.525225
この範囲内
二桁目まで1.5で確定
3桁目に若干の誤差を含みます
このように、若干の誤差を含む桁を末の桁にするのが有効数字で
掛け算結果は有効数字3桁

この回答へのお礼

では1.22*1.22の場合を考えるとどうですか？

お礼日時：2022/06/30 15:42