有効数字に関する問題です。32.75という数値が問題上に出た問題があり、9.938136という答えが

有効数字に関する問題です。32.75という数値が問題上に出た問題があり、9.938136という答えが出ました。この際回答としては合わせるため、9.938という数値にするべきでしょうか？

No.3 回答者： yhr2 回答日時： 2022/11/30 12:30

もう一つの質問でやり方を回答した者です。

ひとこと言い忘れましたが、「有効数字」の処理は「計算の最終結果」だけに適用してください。
計算途中で「有効桁数に丸める」ことをすると、「丸め誤差」をどんどん増やしていくことになるので、計算途中は割り切れなければ「有効桁数 + ２～3桁」にして計算を進め、有効桁数に丸める（そろえる）処理は最終結果で行ってください。

これが適用時の注意事項です。

No.2 回答者： trka 回答日時： 2022/11/30 11:58

問題に「有効桁」指定がなく、或いは「答え」の数値が特定の単位を持っているのなら、一定の基準(業界の...と言うか習慣上の)は存在すると思います。

●単位がmmなら0.001、小数点以下3桁。
●でも単位がInchなら0.0001、小数点以下4桁。

国際単位系 (SI)なら普通は小数点以下3桁、6桁...と思います。

No.1 回答者： MT_70 回答日時： 2022/11/30 11:07

32.75を、小数点以下2ケタを有効数字としている...と捉えればの話になりますが...

9.938136の、8を四捨五入して、9.94というのが、
答の1つの候補として、
挙げられるのでは？
ないでしょうか。