有効数字の計算法について、(152-157)/6.5のときの答えについてです。 まず、分子と分母の有

有効数字の計算法について、(152-157)/6.5のときの答えについてです。
まず、分子と分母の有効数字の桁数を確認します。分子は152と157の差なので、足し算や引き算の規則に従って、全ての数字において有効である桁までを有効数字とします。この場合、一番小さい桁は1の位なので、分子の有効数字は1桁です。分母は6.5なので、有効数字は2桁です。
次に、分子と分母を計算します。152-157=-5、-5/6.5=-0.769230769…となります。この時、かけ算や割り算の規則に従って、桁数が最小であるものの桁数ぶんを有効数字とします。この場合、分子と分母のうち桁数が最小であるものは分子の1桁なので、答えも1桁になります。最後に、答えを有効数字1桁に丸めます。この時、四捨五入を行います。-0.769230769…は-0.8に丸められます。したがって、答えは-0.8。のはずなのですが解答は≒-0.77でした。意味がわからないです。

質問者からの補足コメント

• 152と157と6.5は全て問題文中に提示されていた数なので何か操作した値ではないです。

    補足日時：2023/09/28 00:23

No.3 ベストアンサー 回答者： yhr2 回答日時： 2023/09/28 08:28

No.2 です。

＞答えが二通りあるということになってしまいませんか？

違います。
計算結果をどのように解釈するか、丸めて表記するかで「違い」が出るだけです。
「答はひとつ」ですが、不確実性・誤差を含むので、どのように表記すればよいのか、という問題です。

大学生以上の科学論文であれば、きちんと
　(〇.〇〇 ± 〇.○○) × 10^□
のように書きます。
そうすれば書き方は必ず「一通り」になります。
「有効数字」などといって「桁数でごまかす」のは高校生までです。
何故そうするのかまで含めて、きちんと学校で教えるべきだと思います。
下記の記事などを参考に。
↓
https://eman-physics.net/math/figures.html

たとえば、下記の質問への回答なども参考にしてください。
↓
https://oshiete.goo.ne.jp/qa/13607224.html

この回答へのお礼

ありがとうございましたm(_ _)m

お礼日時：2023/10/04 18:40

No.5 回答者： kamiyasiro 回答日時： 2023/09/28 14:49

有効数字の件からは外れますが、ちょっと気になったので・・・、

ばらつき限界を調べるため、上下限値での乗除算を繰り返していたら、やがて地球外に出てしまいますよ。割れば誤差が減る訳ではないですし。

それに、そんな隅の隅のようなことは確率的には殆ど生起しません。

そんなことにならぬよう、yhr2さんが別の質問で回答してみえた「誤差伝搬」を使うべきです。

和差における分散の加法性、積商における相対誤差の2乗の加法性は誤差伝搬の式から導かれます。

足しても引いても掛けても割っても、誤差は2乗和で積み上がっていきます。

No.4 回答者： stomachman 回答日時： 2023/09/28 09:04

「有効数字」は所詮は便法なんで、あんまりガチに考えたってしょうがないところがあります。

　正確に扱うには「精度保証付き計算」を使います。ご質問の場合、仮に
　　「x=152」とは 151.5≦x＜152.5 という意味
　　「y=157」とは 156.5≦y＜157.5 という意味
　　「z=6.5」とは 6.45≦z＜6.55 という意味
だとすると、
　　-6 =(151.5 - 157.5)＜(x - y)＜ (152.5 - 156.5) = -4
である。なので
　　-0.930... = -6/6.45＜(x - y)/z＜-4/6.55 = -0.610...
である。というわけで、(x - y)/zの計算結果として
　　(x - y)/z=(-0.930... , -0.610...)
という「区間」を答とするのが「精度保証付き計算」です。

　こうしてみると、「有効数字は2桁か1桁か」を心配するどころか、確定する桁は1桁もない、ということがわかります。すると、答を表示するのに有効数字2桁は明らかに過剰ですよね。
　というわけで、区間を示さないのであれば、（ご質問の通り）答を-0.8と書いておくのが適切でしょう。

　ところで、なんで区間の幅がこんなに大きいのか。それは
　　(x - y)= (-6, -4)
であり、この段階で±20%もの不確かさが生じていて、すでに「確定する桁は1桁もない」状態であるのが主な原因。これは「桁落ち」のせいですね。

No.2 回答者： yhr2 回答日時： 2023/09/28 00:43

No.1 です。

＞152と157は身長で6.5は標準偏差です。

それが、どの程度の誤差を持つかということがポイントです。
もし「身長の計測値」ということであれば
　152 ± 0.5
　157 ± 0.5
と考えるのでしょうね。
その場合の有効数字は「3桁」です。
従って、「6.5」と合わせると、「最小の有効筋は2桁」と考えてよいのだと思います。

ただし
　157 - 152 = 5
で「1桁」に減るのは、「桁落ち」として「引き算」ではありがちなことなので要注意です。

これを例えば
　（157 - 152)/6.5
= 157/6.5 - 152/6.5
= 24.1538･･･ - 23.3846･･･
= 0.7692･･･
と計算したら。結果はどう判断しますか？

この回答へのお礼

その場合は≒0.77ですが引き算をすると有効数字が一桁に減ってしまうのでは答えが二通りあるということになってしまいませんか？

お礼日時：2023/09/28 07:25

No.1 回答者： yhr2 回答日時： 2023/09/28 00:14

有効数字って、学校ではきちんと教えないんですよね。

その割に、あちこちで「考慮するのが当たり前」みたいなことを言う。

お示しの場合に、与えられた数値「152」「157」「6.5」がどういう数値で、どんな誤差を持っているのかをきちんと見定めないと、「有効数字」を機械的に考えても無駄です。
「152」や「157」が「人数」とか「個数」であれば、誤差はありません。

もしそういうことなら
　5 / 6.5
は
　5.000000･･･/6.5
ということですあり「有効数字は2桁」とみなせます。

「6.5」も「6.5 ± 0.05」つまり「小数第2位を四捨五入して 6.5 に丸めている」ものなのか、単に「13 個を2つに分けた」ということなのかによって誤差の考え方が変わります。後者であれば「誤差」はないとみなせるでしょう。

いずれにせよ、与えられた数値の意味、含まれる誤差を考慮して「有効数字」を適用するのです。
機械的に適用しても意味がありません。

この回答へのお礼

152と157は身長で6.5は標準偏差です。

お礼日時：2023/09/28 00:22