有効数字の問題です。 なぜ0.65ではなく0.64になるのですか⁇

有効数字の問題です。
なぜ0.65ではなく0.64になるのですか⁇

No.3 ベストアンサー 回答者： neKo_deux 回答日時： 2018/05/20 08:16

有効数字２桁にするのに、

0.6449
一番下の桁の「9」を四捨五入して、
0.645
まだ3桁なので、再度一番下の「5」を四捨五入して、
0.65
とかって計算した？

四捨五入するってのは多少の誤差を丸める操作ですから、何度も繰り返すのは良くないです。
特に上の場合、小数第４位の四捨五入の結果で、それより大きい値の小数第３位の四捨五入を切り上げるか/切り捨てるかが変わっちゃいます。


もっと言うと、別の例で有効数字を１桁に丸めるとして、
0.444444…(=4/9)を0
0.444444…5を1
にするってのを数直線で考えると、偏ってるのが分かると思います。
ズレるかもですが、
｜――｜――｜――｜――｜――┃――｜――｜――｜――｜――｜1.0
0.0　　　　　　　　　　 　 ↑この辺で切り捨て/切り上げの判断しちゃってる

上の数直線だと、
0.5未満を0
0.5以上を1
に丸めるってのが適切ですから、元の問題に戻って、
０．６４４９ を有効数字2桁にするなら、
０．６４(4)９ の4に注目して四捨五入
０．６４
とするって事になります。

--
別の数値の例で、
0.6499
一番下の桁の「9」を四捨五入して、
0.65
と繰り上がりするのと混同しちゃったとか？

この回答へのお礼

なるほど。何度も四捨五入するのは良くないのですね。
ご回答ありがとうございます！！

お礼日時：2018/05/20 09:01

No.2 回答者： t_fumiaki 回答日時： 2018/05/20 04:55

何故0.65だと思うのかを、逆に聞きたい。

No.1 回答者： mabuterol 回答日時： 2018/05/20 02:56

四捨五入だから、です。

有効数字２桁なら 0.64
有効数字３桁なら 0.645