普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000…で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?
No.1
- 回答日時:
>普通の物差しで測った有効数字3ケタのデータ
>2.0[mm]
>2.1
>2.2
>2.1
>1.9
>2.0
>があったとします。各データには±0.1程度の誤差があると考えられます。
そもそも、これらのデータは有効数字3桁なのでしょうか。
2桁に見えます。
>現データの2ケタよりも多い3ケタになります。
「現データの2桁」という文言と「物差しで測った有効数字3ケタのデータ」という文言との間に
不整合はないでしょうか。
No.2
- 回答日時:
『普通の物差しで測った有効数字3ケタのデータ 2.0[mm]』に問題があります。
2.0は有効数字2ケタです。
例えば、全部の測定値が2.0だった場合、平均は2.0であり、2.00にはなりませんが。
合計12.3÷6=2.05と割り切れたので、勘違いをしたと思われます。
この場合四捨五入して2.1です。
合計12.2÷6=2.0333333333・・・の場合は有効数字何けたになるのでしょう?
もっとも計測値が大量(できれば数百以上)にあった場合、また普通の(正規分布に従う)場合、
平均値が計測値よりだいたい一桁精度が高い場合が多いです。
だから、学校などの100点満点(1点刻みなので、有効数字2けた)のテストの平均が、58.5など0.1点まで書かれることが多いです。しかし、有効数字の考え方と運用から言えばナンセンスです。学年100人いたとして、合計58.5×100=5850点で、10点の採点ミスで0.1変化します。四捨五入によっては1点の採点ミスで、変化します。
有効数字の誤用は他にも見られます。例えば食品のカロリー数の表示です。「524カロリー」??
疑問
(1)食品成分表分析に使ったのと同じものですか?
(2)季節変動や、天然、露地、工場などを考慮していますか?
(3)皮むきや内臓処理などが正確に行われていますか?
(4)個体差は考慮されていますか?
(5)正確に盛りつけていますか?
などなど、せいぜいよく注意して±30カロリー、へたをすれば80カロリーくらいの誤差があると思います。
No.4
- 回答日時:
正しいです。
測定精度をあげるために多数回の測定をするのはこのためです。
だから、有効数字を考えて計算せよという問題ならそれで正解です。
ですが、この有効数字の計算というのは不用意に必要な桁を落してしまわないようにするためのものなので、
本当に計算上の桁まで有効かどうかは標準偏差を計算するまでわかりません。
なので、実際に測定に使う場合は必ず標準偏差を計算し、どこまで有効かを確認するひつようがあります。
この例では平均の標準偏差(*)が0.04になるので
2.05 ± 0.04 m
で、3桁でOKです。
(*) 平均の標準偏差 = √[ Σ(x-<x>)^2/n(n-1) ]
No.5
- 回答日時:
この例に限れば間違っているか微妙なところです。
一般的に言えばこの方法は間違っています。
たとえば、今回の実験で1000回の測定を行ったとします。
このとき和はおよそ5桁の有効桁数を持つでしょうから、平均も5桁の有効桁数を持ち、つまり0.1μmの精度を持つことになってしまいます。
無論、普通の物差しで何千回何億回測定しようがこれほど正確に対象の長さが分かるはずがなく、これは間違っています。
一般に、平均値も測定器の分解能以上の精度を持てません。
微妙なところと言ったのは、分解能を考慮した上でどの桁まで残すかにはやや曖昧なところがあるからです
(というより、単に私がこの点についての慣習を知らないだけなのですが)。
たとえば今回の測定では0.1mmの桁まで記録しているので、分解能を±0.05mm程度と考えることもできます。
誤差の桁まで桁を残すという慣習に従えば、0.01mmまで値を残すことになります。
しかし同じく±0.05mmの誤差を持つはずの個々の測定値はこの上の桁までしか書いてませんし、平均値も0.1mmまでしか書かないべきかもしれません。
いずれにしろ、もしさらに測定回数を増やしてもこの例で平均値が4桁以上の精度を持つことはないでしょう。
なお、一般にはもちろん、#4の方のおっしゃる(平均値の)標準偏差まで考慮する必要があります。
(平均値の)標準偏差が分解能よりも大きいうちは分解能を忘れてよくて、一方で測定回数をあげて(平均値の)標準偏差が分解能より小さくなってきた場合には分解能が効いてきてそれ以上精度はあがりません。
(高校生でしょうか、大学生でしょうか? 高校生ならば標準偏差まで考慮しなくてもいいかもしれません(するに越したことはありませんが))
No.6
- 回答日時:
No5の方に補足します。
1000回計測しても、合計が5けたになるだけで、有効数字2けたは変化しません。
例えば合計2005.6だとしても、合計の有効数字も2けたの2000(正確には2.0×10**3)であり、平均は2005.6/1000=2.0056で有効数字は2けたなので、平均は2.0です。
No.4のかたへ補足します。
たかだか6個のデータで標準偏差を考えるのは、無理です。統計というのはできれば数百、なるべく数千というデータがあって成立するものです。だから99%とか「信頼区間」という用語があります。
No.7
- 回答日時:
現実に不偏分散というものがあって、分散を計算するするとき、残差二乗和をnではなくn-1で割ります。
当然ご存じでしょうけど。この1の違いはデータ数が多くなれば事実上ほとんど気にする必要がないものです。にもかわらず、この不偏分散、あるいはその平方根である標準偏差は非常によく使われています。なぜでしょう?それは、データ点数の少ない計測が現実には非常にたくさんある
ということです。机上で遊んでいるのとは違って、現場では厳密に数学的に正しくなくてもおおよその数字をださなければ話が進みません。ですから、この程度でも標準偏差は普通に使われます。もちろん6点は相当に少ないですが、それでも標準偏差を計算しないよりはましです。
No.8ベストアンサー
- 回答日時:
測定器の精度以上には精度は上がらないという点についてですが、
デジタル計測器を用いて測定
10回測定して最小桁が0が9回、1が1回
この場合、最小桁は0と1の間で0に近いと判断するのは正当な推定であろうと思います。
したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。
それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。
なお、#7の測定回数については、おおよそ10点あれば十分と言うのが普通のコンセンサスです。これは、母集団標準偏差をσとして平均の標準偏差がσ/√nなので、nを10以上にしてもさほど値が下がっていかず労力の割に効果がえられないというところが理由です。
No.9
- 回答日時:
少々場外乱闘の感になってしまうのですが、
hitokotonusiさん
> したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。
> それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。
この前半については同意見ですが(何をもって精度とするかも曖昧ですし)、後半に関しては明確に異なります(平均値の標準偏差は測定回数を増やすとどんどん小さくなり0に収束します)。
平均値の標準偏差は理想的には、σ/√n となります。
ここでσは個々の測定値の標準偏差を示す定数であり、有限回の測定においては s=√(Σ(xn-<x>)^2/(n-1)) がよい推定値になります。
ですから、平均値の標準偏差の推定値は s/√n = √((Σ(xn-<x>)^2/n/(n-1)) となるのです。
s は n→∞ で一定値σに収束します。ですので、平均値の標準偏差(の推定値) s/√n はn→∞ で0になります。
ですから、「100回、1000回と繰り返しても標準偏差を計算すればおなじあたりに落ち着く」ことはありません。
そもそも測定値のばらつきの問題と分解能の問題は別です。
分解能が無限大の測定器でも値が真値のまわりにばらつくことはあり、逆に値にばらつきが全くなくても分解能が悪ければ値は一定の誤差を持ちます(極端なはなし10cm刻みでしか目盛りのない物差しで5.1cmの物を測ったら?)
前者は標準偏差で扱えますが後者は統計的な誤差ではないので標準偏差にはあらわれません。
No.11
- 回答日時:
>普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
技術系の立場のものから回答させていただく。
2.0,2.1,2.2,2.1,1.9.2.0と測定された時点で有効数字は2桁である。
以上六つのデータの平均は
(2.0+2.1+2.2+2.1+1.9+2.0)/6=12.3/6=2.05≒2.0
最後の丸めでなぜ2.1でなく2.0にしたかであるが,これはJIS Z 8401:1999(数値の丸め方)の2.c)規則Aに従ったからである。これは丸めた数値として偶数倍のほうを選ぶものであり,一連の測定値をこの方法で処理すると丸めによる誤差が最小になるという特別な利点がある。
一方,規則Bは丸めた数値として大きい整数倍のほうを選ぶもので,計算機による処理に広く用いられている。
またd)には,上述の規則を2回以上使って丸めることは誤差の原因となるので,丸めは常に1段階で行わなければならないことが明記されているので注意しよう。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 教育・学術・研究 実験の測定結果について。 実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33
- 化学 分子量の答え方 3 2023/02/12 10:36
- 計算機科学 誤差計算について (10±1)+[(6.0±0.2)×(3.0±0.2)] (10±1)/[(2.0 6 2023/04/26 18:48
- 大学受験 化学の問題で、計算結果が例えば33.2のとき、有効数字を2桁で答える場合、答えは「33」ですか?それ 2 2022/11/15 20:00
- 高校 有効数字の問題です。 2×1.41は2の有効数字は1で1.41の有効数字は3なので少ない方に合わせて 5 2022/05/14 18:22
このQ&Aを見た人はこんなQ&Aも見ています
-
性格の違いは生まれた順番で決まる?長男長女・中間子・末っ子・一人っ子の性格の傾向
同じ環境で生まれ育っても、生まれ順で性格は違うものなのだろうか。家庭教育研究家の田宮由美さんに教えてもらった。
-
平均値、標準偏差の有効数字について教えてください。
統計学
-
統計学における有効数字について質問です。
統計学
-
平均値の桁数に関して
数学
-
-
4
有効数字の桁数と平均操作
物理学
-
5
ヤング率が変わる原因
物理学
-
6
0の有効数字
物理学
-
7
e^(x^2)の積分に関して
数学
-
8
パーセントの計算での有効数字について
数学
-
9
推定(統計)です。有効数字の扱いがよくわからないのですが、この場合標準偏差が2桁なので2桁に合わして
統計学
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
統計学に詳しい方教えてください
-
誤差について教えてください、...
-
Warder法(ワルダー法)の誤差に...
-
高校生です。合成抵抗の測定値...
-
レポートでの文体について
-
0の有効数字
-
誤差の範囲とは一体どういう意...
-
シャトルランについて
-
共振周波数の計算値と実測値
-
キュベットについて
-
実験値として平均値を採用する行為
-
隣の騒音で困ってます
-
共振周波数と尖鋭度の測定値と...
-
「体重をはかる」は量る?測る?
-
サールの装置の補助針金と試料...
-
統計学に詳しい方助けてください
-
フィルタの遮断域の損失あるい...
-
高分子の浸透圧法について
-
エルゴード性とは何ですか?
-
交流ブリッジの測定感度を上げたい
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報