Apple IDログイン機能メンテナンスのお知らせ

|8.885-8.93|を計算するとどうなりますか?
有効数字と桁落ちに注意してお願いします。

A 回答 (10件)

8.885 は 8.93に比べ小数点以下の桁数が多いため


計算結果は小数点第3位を丸めて小数点以下を2桁にします。

|8.885 - 8.93|=0.045

偶数丸めを採用すると

0.04

桁落ちは注意しようがしまいが避けられません。
結果の有効桁は―桁しかありません。
#先頭の2つのゼロは有効数字の有効桁数に入れてはいけません。
    • good
    • 0

ANO4への補足


大学でも使いますよ~
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。

研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。

適材適所。
    • good
    • 0

ANO4への補足


大学でも使いますよ~
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。

研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。

適材適所。
    • good
    • 0

AN03 (yhr2さん)への補足です。



JIS Z 8401 では四捨五入は

「5. この規格では対象となる数値として正の数値しか想定していない。負の数値を対象とする場合は,その絶対値に適用しなけれはならない」

となってますので

0.045 → 0.05
-0.045→-0.05

ですね。また JIS Z 8401 は計算途中の丸めを
禁じているので、絶対値を取った後丸め
という手順になると思います。
    • good
    • 0

有効数字なんて小学生(あれ中学生だったか?)くらいしか使わないので、無視してても大丈夫です。

    • good
    • 0

有効数字なんて小学生(あれ中学生だったか?)くらいしか使わないので、無視してても大丈夫です。

    • good
    • 0

有効数字なんて小学生(あれ中学生だったか?)くらいしか使わないので、無視してても大丈夫です。

    • good
    • 0

有効数字なんて小学生(あれ中学生だったか?)くらいしか使わないので、無視してても大丈夫です。

    • good
    • 0

乗除算は、「有効桁数」は関係なく「有効桁」で決まります。


「8.93」が「小数点以下2桁」までしか信用できないので、計算結果も「小数点以下2桁」までしか信用できません。「8.885」の「小数点以下3桁目」は誤差範囲に含まれてしまいます。

この計算では
 8.885 - 8.93 = -0.045 → 小数点以下3桁目を四捨五入すると -0.04
 8.93 - 8.885 = 0.045 → 小数点以下3桁目を四捨五入すると 0.05
となって、
 |8.885 - 8.93| = 0.04
とするか
 |8.885 - 8.93| = 0.05
とするかの決め手はありません。
JIS Z 8401 では「偶数丸め」として、端数が 0.5 なら結果が偶数になる方に丸めることを推奨していますので、その場合には「0.04」ということになります。

https://kikakurui.com/z8/Z8401-1999-01.html

計算結果の「有効桁」はすでに「小数点以下2桁目」だけなのですが、その桁ですらこの程度の信頼度です。
「ほぼ等しい2つの数値の減算」では、このように「有効桁数が大幅に減少」することになります。
    • good
    • 0

8.93は、8.930として計算します。


答え「-0.045」は、先頭の00を含み、有効桁数は4桁です。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!


このQ&Aを見た人がよく見るQ&A