プロが教える店舗&オフィスのセキュリティ対策術

普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000…で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?

A 回答 (11件中11~11件)

>普通の物差しで測った有効数字3ケタのデータ


>2.0[mm]
>2.1
>2.2
>2.1
>1.9
>2.0
>があったとします。各データには±0.1程度の誤差があると考えられます。

そもそも、これらのデータは有効数字3桁なのでしょうか。
2桁に見えます。

>現データの2ケタよりも多い3ケタになります。

「現データの2桁」という文言と「物差しで測った有効数字3ケタのデータ」という文言との間に
不整合はないでしょうか。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています