有効数字と数字の桁数について、教えていただきたいことがあります。
大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が2桁のものと3桁のものが混在していました。
例えば、このような感じです。
0.23 mg/L
0.083 mg/L
違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか?」と聞いたところ、「どちらも、有効数字2桁だから問題ない」と言われました。
0.23とは本来、0.225~0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825~0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか?
また、別の項目では、
0.05 mg/L
0.21 mg/L
という2つの数字が出てきました。
この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。
これは問題ないのでしょうか?
教えていただきたくよろしくお願いします。
A 回答 (6件)
- 最新から表示
- 回答順に表示
No.6
- 回答日時:
#4です。
平均の場合は、まず、0.05+0.21を計算しますが、加減算の場合は、有効数字の一番桁の小さいものに合わせます。
つまり、0.05は有効数字は1桁ですが、計算するときは、小数第二位として計算するのです。
たまたま0.21も小数第二位なので、この場合は、
0.05+0.21=0.26 これが有効数字です。
乗除算のときと加減算のときで変わってきますので注意です。
で、平均は2で割るのですが、この2は測定値ではないので、有効数字1桁というわけではなく、ただの2ですので、そのまま割ります。
なので、平均は0.13の2桁が正解です。
先輩のやり方は正しいです。
No.5
- 回答日時:
>この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。
>これは問題ないのでしょうか?
念のためです。
この2つの数値に対してどういう演算をやるかによります。
・足し算、引き算の場合は位があっていないといけません。有効数字の桁数の違いは関係ありません。
0.05+0.21=0.26
・掛け算、割り算の時は桁数が問題になりますがこのまま計算してもらってかまいません。得られた結果の有効桁数を判断する時に問題になるのです。計算する前から有効数字の桁数を合わせる必要はありません。桁数が大きく違っている数字を組み合わせて計算しても無駄になるというだけの話です。
0.05×0.21=0.0105≒0.01
同じ単位の量が2つですから加減の操作の対称になっている数値ではないかなと思います。
この場合、小数点下第二位に揃っていないといけません。
No.4
- 回答日時:
#2の補足について。
>0.05mg/Lは5×10の-2乗
>として「これは有効数字1桁です」としてはいけないのですか?
0.05mg/Lは有効数字1桁ですので、質問者さんが正しいです。
>0.05 mg/L
>0.21 mg/L
>という2つの数字が出てきました。
測定器自体が持っている誤差がどのようなものなのかが分からないため、この結果が正しいと信じるしかないですが、結果が正しいとするならば、有効桁数が異なってしまっても、それは仕方がありません。
注意すべきは、#1さんが指摘しているように、このデータで計算をしなければいけないような場合、0.05 mg/Lのデータを用いて乗除算を行うと、計算結果の有効数字も1桁になってしまうことです。
>基本的には1/1000の位までは正確に測れるんだと思います。
この部分も、この測定器のことが分からないので、なんともいえません。
質問者さんの言うことが正しければ、0.23 mg/Lの有効数字は、0.230mg/Lになるはずですが、もしかしたら、倍率レンジを変えているのかもしれません。このことは、測定した人しか分かりません。
質問者さんの考え方自体は正しいです。
ありがとうございました。
ということは、0.05と0.21の2数の平均をとる場合、電卓を叩くと0.13とはじきだされますが、この場合、平均値は0.13ではなく、0.1と書くのが正解なのですね。過去に先輩が取りまとめた表などを見ていますと、小数点以下2桁であれば、平均値も2桁で表記するというふうに、桁数に揃えているようで混乱していました。
倍率レンジを変えているかも関わってくるとなると、データ整理する立場の者も測定方法の詳細について把握する必要もあるのですね。
No.3
- 回答日時:
追記。
>「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか?」
「0.220 mg/L」と書くと「220×10の-3乗」であり、有効数字3桁になってしまいます。
「0.08mg/L」と書くと「8×10の-2乗」になり、有効数字1桁になってしまいます。
「小数点の位置を合わせる」のと「有効数字の桁数を合わせる」のは「まったく異なる行為」です。
濃度で言えば「10キログラム中に230グラム」と「1キログラム中23グラム」と「100グラム中2.3グラム」は「同じ濃度」です。そして、この3つは「有効数字2桁」です。
しかし、無理矢理小数点位置を合わせようとして「2.3グラム」を「小数点を四捨五入して2グラム」とやっちゃうと「100グラム中2グラム」だけ「違う濃度」になっちゃいますね。
No.2
- 回答日時:
0.23 mg/L
0.083 mg/L
0.05 mg/L
0.21 mg/L
は
23×10の-2乗
83×10の-3乗
50×10の-3乗
21×10の-2乗
であり、すべて「有効数字2桁」です。
この回答への補足
回答ありがとうございました。
ここでの数字はすべて「有効数字2桁」とのことでしたが、たとえば、
0.05mg/Lは50×10の-3乗
とのことですが、この「-3乗」という数字はどこからでてきたのでしょうか?
0.05mg/Lは5×10の-2乗
として「これは有効数字1桁です」としてはいけないのですか?
No.1
- 回答日時:
こんばんは。
0.23 mg/L、0.083 mg/L、0.05 mg/L、0.21 mg/L という数値が、
どういう測定値とどういう計算から出てきたかによります。
ご質問文に測定値と計算の内容が書かれていないので、
正しいのかダメなのかは判定できません。
その代わり、例を挙げて説明しますね。
【足し算、引き算】
有効数字は、桁ではなく、精度で決まります。
精度が粗い方に合わせます。
1.2345 + 6.78 = 8.01
987.6 - 0.12345678 = 987.5
【掛け算、割り算】
有効数字は、有効桁数で決まります。
有効桁数が少ないほうに合わせます。
1.2345 × 6.78 = 8.37
1.23 ÷ 0.06789 = 18.1
1000.00 × 10.00000000 = 10000.0
以上、ご参考になりましたら。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・人生のプチ美学を教えてください!!
- ・10秒目をつむったら…
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・【大喜利】【投稿~9/18】 おとぎ話『桃太郎』の知られざるエピソード
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
3÷7のあまりは「3」ですか?
-
数字3桁の組み合わせの何通り...
-
7で始まる電話番号?
-
エクセル:6E-05という表現は?
-
2進数の割り算が分かりません...
-
数学の階乗はどんな時に使うの...
-
電話番号のハイフンの入れ方
-
数値とアルファベットに分ける...
-
60進法と10進法
-
0以下の数字は何桁?
-
EXCELで10万未満切捨ての...
-
エクセル関数で桁数指定し数値...
-
一億引く百が苦手なめい
-
NUMBER(N,M) としたときの、格...
-
です。 0.008020 の有効数字は...
-
3分の1とは何パーセントでしょ...
-
0.120は有効数字何桁ですか? ...
-
何進数が理論的にベスト?
-
算数です。 割り算の筆算で、商...
-
AccessでExcelでのMOD関数と同...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
数字3桁の組み合わせの何通り...
-
エクセル:6E-05という表現は?
-
2進数の割り算が分かりません...
-
7で始まる電話番号?
-
数値とアルファベットに分ける...
-
3÷7のあまりは「3」ですか?
-
数学の階乗はどんな時に使うの...
-
60進法と10進法
-
EXCELで10万未満切捨ての...
-
NUMBER(N,M) としたときの、格...
-
電話番号のハイフンの入れ方
-
3分の1とは何パーセントでしょ...
-
3桁の数字は何通りですか?
-
Excelで数値の丸め
-
0以下の数字は何桁?
-
エクセル関数で桁数指定し数値...
-
一億引く百が苦手なめい
-
エクセルのsumifの検索値
-
10進法の数を60進法の数に...
-
100!
おすすめ情報