有効数字について

8cmのものをmであらわすと、8×10^-2
、8.0×10^-2のどちらが正しいですか？

回答よろしくお願いいたします

No.2 回答者： QoooL 回答日時： 2014/05/13 00:39

8ｃｍ　というのは「四捨五入して9」になっているので、

7.51（7.5000000000001）～8.49（8.499999999）
だと考えます。
有効数字はもちろん一桁です。

一方、8.0ｘ10^(-2)　の　8.0というのは、
8.0して「四捨五入して9」になっているので、
7.951（7.95000000000001）～8.049（8.0499999999）
だと考えます。
有効数字はもちろん二桁です。
有効数字二桁のときは三桁目を四捨五入します。


8.05は、8.0にならないんです。
8.1になりますね。
7.6も8.0にならないんです。
三桁目を四捨五入するということは
7.60を四捨五入ですから、7.6になります。
→というわけで、有効数字二桁にしたのは間違い。

有効数字一桁が正解。

ただ有効数字一桁というのはあまりにも精度が低過ぎるので、
（上の例だと7.5～8.4まで、0.9も誤差がある）
普通、有効数字を最低二桁、なるべく三桁は取りますけどね。

問題でも、一桁の数字が使われているのに、3.14や22.4や6.02など、有効数字の「高い」数字に合わせるものが時々あります（なんとなく矛盾）。
常識的には、有効数字の最も低いものに合わせます。

No.1 回答者： nananotanu 回答日時： 2014/05/12 23:03

有効数字の桁数をあわせるなら、一桁、じゃない？