ある数値を5回測定したとします
A 5.039
B 5.075
C 5.092
D 5.064
E 5.058
有効桁数はすべて4桁ですよね?
次にA~Eの平均を取ると
(A+B+C+D+E)/5=5.0656
と関数電卓で結果がでますが、4桁に丸めて5.066とすれば有効桁数の扱い方としては問題ないですか?
そしてA~Eの平均の2乗をするときは、上記の平均を有効桁数4桁に丸めた5.066を2乗して
(5.066)^2=25.664356
となり、そして5.066の有効桁数4桁に合わして25.66とすればいいのでしょうか?
それとも平均の値を4桁に丸める前の電卓で出た値のまま2乗した後、最終的に4桁に丸めるのがいいのでしょうか?この数値だとどちらでやっても4桁にした値は変わりませんが・・・
有効桁数の扱い方で問題があったら教えてください、また平均の2乗を求めるときはどちらが正しいのでしょうか?
(平均の値の2乗は平均×平均なのだから平均の値を4桁にせず5桁として計算すると平均の2乗は有効桁数5桁と考えるので、やはり正しく平均の値を測定値の有効桁数4桁に丸めて出した平均の値を2乗する方が正しいですかね・・・)
また、上記の平均の計算をしたときのよな、「5」などの数字の有効桁数は何桁ですか?1桁なんでしょうか?もし1桁なら割り算をしているので有効桁数はいちばん桁数の少ないものに合わせるので有効桁数1となると平均の値が「5」となりおかしいとおもうんですが・・・
上記の平均を取ったときの「5」や、測定回数の数値や、測定していない数で100で割れと書いてあったりしたときは、それらの数字の桁数も考えなければならないんでしょうか?
読みづらい文章かもしれませんが、ご回答待っています。
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
内容的には、NO.1さんと同じ意見です。
考え方の問題として、5回の測定値が「5.0」までは一致していますから、この値までは正しいと思えます、
小数2位の値は、3,7,9,6,5 と揺らいでいますから、信憑性は薄いものの、平均的数値を採用して、
「5.1」として取り扱うことは可能でしょう。
問題は、何処までの詳しさが必要なのか・・・にあります。
1000分の1の誤差が致命的な結果をもたらす場合には、より多くの回数、より精度を高めた測定が必要です。
場合によっては、5%程度の誤差は無視して良い場合もあるでしょう。
必要な精度によって、有効桁数が決められます。
円周率は、通常「3.14」として扱われてきましたが、超精密計算を必要とする場合には、さらに下位の数値まで必要な場合もあるでしょう。
最近、文科省では、小学生の場合の円周率は「3」で良い、などと云いだしています。
これには違和感がありますが、簡単な概算法としては、一考には値します。
この場合には、有効桁数を整数位に止めることになります。
言葉を換えれば、有効桁数は、許し得る誤差の範囲を指定しているとも云えます。
No.1
- 回答日時:
数学的処理をする時の自然数は無限の有効数字を「持って居るかの様に」扱います。
理由は簡単それが計算の「定義」であって「測定された値では無い」から幾ら有効数字の桁数の多い
場合でも全く気にする必要がないのです。
最初の方の二乗の件ですが、試験の場合は悩ましいが、実験の現場では「どうでも良い」「些末すぎる」
と言う扱いです。デシマルですので最後の桁が±1揺らぐ事は「おかしくは無く」揺らがない方がおかしい。
化学の元素分析の場合合計は、100.01%、10.00%、99.99%は全て正確だと認められます。
だが0.02以上揺らいだらアウトです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 数学 数的推理の問題です。 次の条件を満たす全ての数の平均値の一の位はいくらか。 ○3桁から6桁の自然数 8 2022/04/28 01:21
- 教育・学術・研究 実験の測定結果について。 実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33
- 数学 数学の答えと解き方を教えてください。 問:ある(人数の非常に多い)集団から無作為に6名を選んで身長を 4 2022/12/14 10:06
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- 物理学 電気磁気測定の整流形電圧計の問題についてです。 写真の問題についてで、正弦波での実効値Ve、最大値V 2 2023/02/16 11:12
- 化学 分子量の答え方 3 2023/02/12 10:36
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
本物とクローンと見分ける方法...
-
0の有効数字
-
高分子の浸透圧法について
-
誤差について教えてください、...
-
レポートでの文体について
-
回収率が100%を超える原因について
-
誤差の範囲とは一体どういう意...
-
吸光光度法についてです。 なぜ...
-
ヤング率の実験(測定)について
-
RL直列回路とRC並列回路の理論...
-
シャトルランについて
-
高校生です。合成抵抗の測定値...
-
管理値、管理基準値、規格値の...
-
繰り返し測定 3回 の意味
-
物質の同定方法
-
112を有効数字2桁で表せって言...
-
真空蒸着した薄膜の厚さについ...
-
「体重をはかる」は量る?測る?
-
共振周波数の計算値と実測値
-
物理の有効数字
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報