数学について

30を8.2056...×4.1833....で割った答え(有効桁数2桁で)を求めたいのですが、
この二つの小数点は有効桁数4桁目を切り捨てた8.20×4.18か四捨五入した8.21×4.18のどちらで計算すればよいのでしょうか。

No.4 回答者： kairou 回答日時： 2020/10/27 22:34

この場合は どちらでも 同じ結果になりますが、

切り上げ 切り捨ては 計算の最後に行うのが ルールです。
30÷8.2056…x4.1833…=3.65603…x4.1833…=15.294… ≒15 。
30÷8.21x4.18=3.654…x4.18=15.273…≒15 。
30÷8.20x4.18=3.6585…x4.18=15.292…≒15 。

No.3 回答者： tknakamuri 回答日時： 2020/10/27 21:10

特に事前の丸めは不要。

+2桁くらいで計算するのは筆算の労カ軽減ための
少々荒っぽい習慣で、数学的意味はありません。

電卓を使うなら、
そのまま計算し、最後にまるめましょう。
JISの推奨手順も、事前のまるめを禁じてます。

No.2 回答者： ありものがたり 回答日時： 2020/10/27 19:12

「数学について」？

有効桁数ルールに従った近似値計算が
数学的には正しくないことは、よく知られている。
あんなものは、ただの工業規格であって
数学じゃあない。

No.1 回答者： むらさめ 回答日時： 2020/10/27 16:31

普通は有効数字2桁なら、その下の3桁までの値で計算。

8.2056…×4.1833…　なら
8.21×4.18　と　4桁目を四捨五入です。

出た結果にも有効数字の処理の仕方があり、JISに規定されていますが中高では詳しく教えませんね。