普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000…で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?
No.1
- 回答日時:
>普通の物差しで測った有効数字3ケタのデータ
>2.0[mm]
>2.1
>2.2
>2.1
>1.9
>2.0
>があったとします。各データには±0.1程度の誤差があると考えられます。
そもそも、これらのデータは有効数字3桁なのでしょうか。
2桁に見えます。
>現データの2ケタよりも多い3ケタになります。
「現データの2桁」という文言と「物差しで測った有効数字3ケタのデータ」という文言との間に
不整合はないでしょうか。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 教育・学術・研究 実験の測定結果について。 実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33
- 化学 分子量の答え方 3 2023/02/12 10:36
- 計算機科学 誤差計算について (10±1)+[(6.0±0.2)×(3.0±0.2)] (10±1)/[(2.0 6 2023/04/26 18:48
- 大学受験 化学の問題で、計算結果が例えば33.2のとき、有効数字を2桁で答える場合、答えは「33」ですか?それ 2 2022/11/15 20:00
- 高校 有効数字の問題です。 2×1.41は2の有効数字は1で1.41の有効数字は3なので少ない方に合わせて 5 2022/05/14 18:22
このQ&Aを見た人はこんなQ&Aも見ています
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報