有効数字と桁落ち

｜8.885-8.93｜を計算するとどうなりますか？
有効数字と桁落ちに注意してお願いします。

No.2 ベストアンサー 回答者： tknakamuri 回答日時： 2020/05/27 17:07

8.885 は 8.93に比べ小数点以下の桁数が多いため

計算結果は小数点第3位を丸めて小数点以下を2桁にします。

|8.885 - 8.93|=0.045

偶数丸めを採用すると

0.04

桁落ちは注意しようがしまいが避けられません。
結果の有効桁は―桁しかありません。
#先頭の2つのゼロは有効数字の有効桁数に入れてはいけません。

No.10 回答者： tknakamuri 回答日時： 2020/05/27 20:16

ANO4への補足

大学でも使いますよ～
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。

研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。

適材適所。

No.9 回答者： tknakamuri 回答日時： 2020/05/27 20:16

ANO4への補足

大学でも使いますよ～
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。

研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。

適材適所。

No.8 回答者： tknakamuri 回答日時： 2020/05/27 20:06

AN03 (yhr2さん)への補足です。

JIS Z 8401 では四捨五入は

「5. この規格では対象となる数値として正の数値しか想定していない。負の数値を対象とする場合は，その絶対値に適用しなけれはならない」

となってますので

0.045 → 0.05
-0.045→-0.05

ですね。また JIS Z 8401 は計算途中の丸めを
禁じているので、絶対値を取った後丸め
という手順になると思います。

No.7 回答者： chiha2525 回答日時： 2020/05/27 19:16

有効数字なんて小学生（あれ中学生だったか？）くらいしか使わないので、無視してても大丈夫です。

No.6 回答者： chiha2525 回答日時： 2020/05/27 19:16

有効数字なんて小学生（あれ中学生だったか？）くらいしか使わないので、無視してても大丈夫です。

No.5 回答者： chiha2525 回答日時： 2020/05/27 19:16

有効数字なんて小学生（あれ中学生だったか？）くらいしか使わないので、無視してても大丈夫です。

No.4 回答者： chiha2525 回答日時： 2020/05/27 19:16

有効数字なんて小学生（あれ中学生だったか？）くらいしか使わないので、無視してても大丈夫です。

No.3 回答者： yhr2 回答日時： 2020/05/27 18:41

乗除算は、「有効桁数」は関係なく「有効桁」で決まります。

「8.93」が「小数点以下2桁」までしか信用できないので、計算結果も「小数点以下2桁」までしか信用できません。「8.885」の「小数点以下3桁目」は誤差範囲に含まれてしまいます。

この計算では
　8.885 - 8.93 = -0.045　→　小数点以下3桁目を四捨五入すると -0.04
　8.93 - 8.885 = 0.045　→　小数点以下3桁目を四捨五入すると 0.05
となって、
　|8.885 - 8.93| = 0.04
とするか
　|8.885 - 8.93| = 0.05
とするかの決め手はありません。
JIS Z 8401 では「偶数丸め」として、端数が 0.5 なら結果が偶数になる方に丸めることを推奨していますので、その場合には「0.04」ということになります。
↓
https://kikakurui.com/z8/Z8401-1999-01.html

計算結果の「有効桁」はすでに「小数点以下2桁目」だけなのですが、その桁ですらこの程度の信頼度です。
「ほぼ等しい2つの数値の減算」では、このように「有効桁数が大幅に減少」することになります。

No.1 回答者： angkor_h 回答日時： 2020/05/27 16:19

8.93は、8.930として計算します。

答え「-0.045」は、先頭の00を含み、有効桁数は4桁です。