プロが教える店舗&オフィスのセキュリティ対策術

有効数字に関する問題です。32.75という数値が問題上に出た問題があり、9.938136という答えが出ました。この際回答としては合わせるため、9.938という数値にするべきでしょうか?

A 回答 (3件)

もう一つの質問でやり方を回答した者です。



ひとこと言い忘れましたが、「有効数字」の処理は「計算の最終結果」だけに適用してください。
計算途中で「有効桁数に丸める」ことをすると、「丸め誤差」をどんどん増やしていくことになるので、計算途中は割り切れなければ「有効桁数 + 2~3桁」にして計算を進め、有効桁数に丸める(そろえる)処理は最終結果で行ってください。

これが適用時の注意事項です。
    • good
    • 0

問題に「有効桁」指定がなく、或いは「答え」の数値が特定の単位を持っているのなら、一定の基準(業界の...と言うか習慣上の)は存在すると思います。



●単位がmmなら0.001、小数点以下3桁。
●でも単位がInchなら0.0001、小数点以下4桁。

国際単位系 (SI)なら普通は小数点以下3桁、6桁...と思います。
    • good
    • 0

32.75を、小数点以下2ケタを有効数字としている...と捉えればの話になりますが...


9.938136の、8を四捨五入して、9.94というのが、
答の1つの候補として、
挙げられるのでは?
ないでしょうか。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています


このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング