1.002m+1.0mmの答えは有効数字を考えて計算すると1.0mですか？それとも、1.003mです

1.002m+1.0mmの答えは有効数字を考えて計算すると1.0mですか？それとも、1.003mですか？

早めにご回答よろしくお願いします。

No.1 ベストアンサー 回答者： masterkoto 回答日時： 2020/05/26 14:43

1.002m+1.0mm=1.002m+0.0010m1.0030m

足し算なので右端の位が最も高いものにそろえて
1.003m

No.7 回答者： tknakamuri 回答日時： 2020/05/27 17:26

>なので、0.0010 m はー桁削って、小数点以下の

>桁数を揃えてから計算します。

訂正ぼけてました。
丸めるのは計算後です。

1.002 +0.0010 =1.0030

小数点以下第4位を丸めて

1.003 m

これに限らず計算途中でのまるめは厳禁。
最後の最後で見積もった有効桁になるように
丸めて下さい。

No.6 回答者： tknakamuri 回答日時： 2020/05/27 08:52

1.0 mm=0.0010 m

小数点以下の桁数は 1.002 mより0.0010 m
の方が長いですが、小数点以下第4位は0.0005
1.002 m 側には無いので4位の計算は出来ません。

なので、0.0010 m はー桁削って、小数点以下の
桁数を揃えてから計算します。

1.002 + 0.001 = 1.003 m

以下余談。有効数字で測定値を表す場合
1.005は 1.003～1.007 くらいまでを含んでいるのが
普通です。これは
1.003～1.007を1.00や1.01というように
有効数時を削ってしまうと
誤差が増えてしまうからです。

測定では最小目盛のもう一桁を読み記録するのが普通。
デジタルでもふらつく桁まで見て、ふらつきが±1~2ならその桁まで
読むのが普通(勿論計器の公称精度以上は読みません)。

測定値1.005を 1.0050±0.0005

だと見積もるとひどい目に会います。本当。

No.5 回答者： head1192 回答日時： 2020/05/26 20:17

訂正

１．０ｍｍの測定値は誤差を考慮に入れると
　×１．０５ｍｍ以上１．１４ｍｍ未満（１．０５ｍｍ≦長さ＜１．１４ｍｍ）
　〇０．９５ｍｍ以上１．０５ｍｍ未満（０．９５ｍｍ≦長さ＜１．０５ｍｍ）
の幅を持つ。

No.4 回答者： head1192 回答日時： 2020/05/26 20:10

１．０ｍｍの測定値は誤差を考慮に入れると

　１．０５ｍｍ以上１．１４ｍｍ未満（１．０５ｍｍ≦長さ＜１．１４ｍｍ）
の幅を持つ。
その幅の中のどの数値になるかは特定できない。

したがって、１．００２ｍｍの２は、１．０ｍｍに足す場合、意味を持たない数字になる。
この場合、１．０ｍｍの精度に合わせ、１．００２ｍｍも
　１．０ｍｍ
と丸めなければならない。

そのうえで足し合わせることである。
立式と計算は自分でした方がよい。

No.3 回答者： yhr2 回答日時： 2020/05/26 15:23

与えられた数値は

　1.002 ± 0.0005 [m] = 1002 ± 0.5 [mm]
　1.0 ± 0.05 [mm]
の誤差を持ったものと考えられますので、「ｍｍ」の整数桁までは正確な数値と考えることができます。

これらを使ってふつうに計算すれば
　1003 ± 0.55 [mm]
なので、誤差の影響しない範囲で表記すれば
　1003 [mm] = 1.003 [m]
ということになります。

誤差の範囲が明確であれば、「有効数字」などといういい加減な「簡易処理方法」をとる必要はありません。

No.2 回答者： ほい3 回答日時： 2020/05/26 14:48

有効数字を考えてだけでなく、有効数字4桁での答えなら1.003ｍ、

4捨5入で有効数字2桁なら、1.0mです。

ただ、式に　1.002m+1.0mm＝1.002+0.001　ができる問題で
回答が有効数字2桁というのは見たことがありません。