5928.77÷((20.21×5.30+20.34×5.23)÷2)を計算し有効数字3桁で求めたい

5928.77÷((20.21×5.30+20.34×5.23)÷2)を計算し有効数字3桁で求めたいです。2は平均とってるだけなので2.00000… と考えてください。
答えは55.54111…となります。
なので55.5

ただ、(20.21×5.30+20.34×5.23)÷2＝106.7456 で、
5桁目以降切り捨てて
5928÷106.7＝ にすると、55.5576…となり四捨五入すると、55.6になります。

n桁目で求める場合n+2桁目以降切り捨てと習いましたが、その場合でもずれることはあるということでしょうか。

No.7 回答者： tknakamuri 回答日時： 2024/05/19 23:39

誤差解析で全てを最悪で見積もるのもご法度です。

現実とかけ離れてしまいます。→No.5

No.6 回答者： e12mv2 回答日時： 2024/05/17 19:29

計算途中で切り捨てたり切り上げたりしてはならない。

No.5 回答者： sorewasennsei 回答日時： 2024/05/17 16:27

エクセルで計算できる時代には全くふさわしくない知識ですね。

各数字の最小桁は四捨五入によるものだとすると
(5928.77±0.005)÷(((20.21±0.005)×(5.30±0.005)+(20.34±0.005)×(5.23±0.005))÷2)で
最小値は分子がマイナス、分母がすべてプラスで55.2396≒55.24
最大値は分子がプラス、分母がすべてマイナスで55.8485≒55.85
になり3桁の精度はありません。分母の測定値の精度が不足してます。

No.4 回答者： kairou 回答日時： 2024/05/17 10:04

＞計算し有効数字3桁で求めたい

原則的には、フルの桁数で計算して、
最終結果を 決められた有効桁数に します。

計算途中では 最終結果に影響しない範囲で、
有効桁数を多めにとる事は 出来ます。
どの位 多めにとるかは 実際に計算してみないと 分かりません。
「n桁目で求める場合n+2桁目以降切り捨てと習いましたが」
この +1桁で 以下切り捨ては 少し乱暴な計算です。
全ての計算が当てはまる 保証はありません。
一般的には +2～3桁で 計算することが多いです。
※ +2桁で 計算すれば 5928.7÷106.74=55.543… です。
　 +3桁で 計算すると 被除数はそのままで 除数が小さくなりますから、
　　答えは 実際より 大きくなります。

No.3 回答者： tknakamuri 回答日時： 2024/05/17 07:18

原則計算途中の丸めはご法度です。

最終有効桁数+2~3桁 は最低限確保して計算するのが常識の筈。
n+2桁以降切り捨てでは有効桁はn+1桁で余裕が―桁しかない。
又、特に先頭が1で始まる数値は精度が低くなるので要注意です。
#実質有効桁が1少ないとみて処理することが多いです。
これでは計算誤差が大き過ぎます。

No.2 回答者： mimon01 回答日時： 2024/05/17 04:37

「n桁目で求める場合n+2桁目以降切り捨てと習いました」って、そんなバカげたことを教えた教師を罷免してください。

今どき、64ビット長の倍精度演算を行うのが常識です。

No.1 回答者： かわごえ 回答日時： 2024/05/17 04:15

そりゃ丸めればズレますよ。

というかズレて当然。
多少アバウトでいいってのが『有効』なのです。