誤差に関する有効数字の計算方法を教えてください

有効数字の計算方法がよく分かりません
簡単な例でみると
3.420×10^3×(6.4820^2 + 9.5065^2)/2
=3.420×10^3×(42.0163 + 90.3735)/2

=(3.420×10^3×132.3898)/2
=(4.5277×10^5)/2
=2.2638×10^5
=2.264×10^5
のように毎回有効数字を余分にとって計算をする方法と

電卓に
3.420×10^3×(6.4820^2 + 9.5065^2)/2
を打ち込んで
226386.6713
最後に四捨五入して
2.264×10^5
とするのはどちらが正しいのでしょうか？
先生によって言うことが上記二つの計算方法で別れる気がします

No.2 ベストアンサー 回答者： yhr2 回答日時： 2018/09/29 11:02

有効数字とは、要するに「誤差」の簡易的な処理方法です。

「有効数字２桁」とは
　 0.XX ± 0.005
の誤差を持つ、
「有効数字５桁」とは
　 0.YYYYYY ± 0.000005
の誤差を持つということです。

例えば、「有効数字２桁」と「有効数字５桁」とのかけ算をすれば、その誤差は
　(0.XX ± 0.005) × (0.YYYYY ± 0.000005)
= 0.ZZZZZZZ ± (0.005 × 0.YYYYY + 0.000005 × 0.XX) + 0.25 × 10^(-7)
≒ 0.ZZZZZZZ ± 0.005
ぐらいになります。
（注：　0.ZZZZZZZ = 0.XX × 0.YYYYY　です）

ということで、「有効数字２桁」の方の誤差が結果の誤差の決定要因になります。
なので、計算結果の「誤差を除いた信頼できそうな値」は、計算に使った数値のうち最も有効桁数の小さいのも、この場合には「２桁」程度になってしまうということです。

上の例は「かけ算」「割り算」の場合です。
これに対して、「足し算」「引き算」の場合には、「桁の数」ではなく、実際の「桁」の比較になります。
つまり
　XXX.XX ± 0.005　←有効数字は小数点以下２桁まで
と
　XXXXX.XXXXX ± 0.000005　←有効数字は小数点以下５桁まで
を足し合わせると
　(XXX.XX ± 0.005) + (XXXXX.XXXXX ± 0.000005) ≒ YYYYYY.YYYYY ± 0.005005
となって、結果は有効数字は小数点以下２桁までということになります。整数部分が何桁あろうが、一番下の有効桁が大きい方で決まります。
　
あくまで「簡易評価」ですので、まあ、そのぐらいなら誤差は元の誤差と同じ程度と考えられるでしょ、という程度の計算手法です。上の計算式もかなり「ドンブリ勘定」な計算です。

正確には、きちんと「誤差評価」をしないといけないのですが、これは結構面倒なので、「有効数字」という簡易判定で済ませているのです。ですから、そんなに「厳密な」「高級な」ものと考える必要はありません。「四捨五入」に毛の生えた程度のものです。

このように、厳密には上のような「誤差の累積」の評価をする必要がありますので、ご質問のケースではどちらでやっても結果は同じようなものですが、「前者」の方が毎回「丸め誤差」をどんどん付加することになるので、通常は「後者」（最後でまとめて有効桁数の処理をする）が普通かと思います。
「有効数字」とは、あくまで「簡易的な処理」であることを認識しておいた方がよいと思います。

No.3 回答者： tknakamuri 回答日時： 2018/09/30 20:46

余分に桁をとるのと、電卓の精度一杯に使うことは、程度の差であって

本質的な考え方は変わりません。ようは丸めが誤差をふやさなければよいので
電卓なら、その精度を目ー杯使うべきでしょう。

注意すべきなのは、計算毎に有効数字の桁数になるまで丸めを行なうことで、
これは誤差を増大させるのでJⅠSでも禁じられています。

試験で手計算を強いられているような時は、1~2桁増でも仕方有りませんが
普通に技術計算を行なう時は充分余裕のある桁数で計算しましょう。

No.1 回答者： mabuterol 回答日時： 2018/09/29 10:43

計算の度に有効数字を計算しても良いし、いったん全て計算してから最後に有効数字にしても良い。

ただ毎回有効数字位を計算するときの、上記のあなたの計算まちがっていて
3.420×10^3×(6.4820^2 + 9.5065^2)/2
= 3.420*10^3*(4.2016*10^1+9.0374*10^1)/2
=3.420*10^3*(1.3039*10^2)/2
=4.459*10^5/2
=2.230*10^5

となります。毎回、有効数字を取る結果として 2.264 * 10^5 に対して随分と数値が変わった事が分かると思います。
有効数字４桁あるからと言って、４桁目まで精度が保証できるわけではないのです。
誤差は伝搬するし増幅のです。

では 2.264 が正しいのかというと、そうではなくて。
そもそも 3.420 という数字が 3.4195 から 3.4204 まで幅を持っているし、その幅の下限で計算するのと上限で計算するのでは結果も変わります。その程度の信頼性だったという事です。

だから有効数字それ自体が最初から誤差を含んでいるのだから、どちらの方法で計算したところで、だいたいこんなものという数字が分かれば、細かい数字の違いなんてどうでも良いし、何が正解というものでもありません