
普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000…で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?
No.1
- 回答日時:
>普通の物差しで測った有効数字3ケタのデータ
>2.0[mm]
>2.1
>2.2
>2.1
>1.9
>2.0
>があったとします。各データには±0.1程度の誤差があると考えられます。
そもそも、これらのデータは有効数字3桁なのでしょうか。
2桁に見えます。
>現データの2ケタよりも多い3ケタになります。
「現データの2桁」という文言と「物差しで測った有効数字3ケタのデータ」という文言との間に
不整合はないでしょうか。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報