【アプリ版】サポートOS変更のお知らせ

普通の物差しで測った有効数字3ケタのデータ
2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。
これらの合計をとると,和の場合の有効数字は末位が最高位のもの合わせるので,今の場合,0.1位までで計算すればよいので
12.3
となりますよね。これをデータ数6で割りますが,この場合の6というのは正確な6であり,どこまでも6.000…で正しい,有効数字は無限大桁と考えられます。割り算の場合,商の有効桁数は有効数字は有効桁数の少ない方に合わせるので
2.05
となり,現データの2ケタよりも多い3ケタになります。これは正しいのですか?

gooドクター

A 回答 (11件中1~10件)

測定器の精度以上には精度は上がらないという点についてですが、



デジタル計測器を用いて測定
10回測定して最小桁が0が9回、1が1回

この場合、最小桁は0と1の間で0に近いと判断するのは正当な推定であろうと思います。
したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。

それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。

なお、#7の測定回数については、おおよそ10点あれば十分と言うのが普通のコンセンサスです。これは、母集団標準偏差をσとして平均の標準偏差がσ/√nなので、nを10以上にしてもさほど値が下がっていかず労力の割に効果がえられないというところが理由です。
    • good
    • 1

ANo.11のTheWK1981さんへ補足



"最近接偶数への丸め(通称「五捨五入」)"・・・IEEE 754-2008、ISO-31-0 および JIS Z 8401-1999規則A
は確かに使われています。
 ・「VB の丸め込み関数 Round() などは、そのような動きをする。」http://ameblo.jp/argv/entry-10007376238.html
 ・端数処理>1.2.2再接近偶数への丸めhttp://ja.wikipedia.org/wiki/%E7%AB%AF%E6%95%B0% …
 ・IEE754>2.1最接近丸めhttp://ja.wikipedia.org/wiki/IEEE_754

理由は全部2.050だったとして、測定値はすべて2.1で平均も2.1になり、最大誤差がが0.05になってしまうからです。
全部2.049だったとして、測定値はすべて2.0になり、最大誤差が0.049と少なくなります。



しかしこのかたは、もっと基本的なレベルの質問をされています。ですから


(1)2.0は有効数字2けた(2.0*10**1)
(2)合計の桁数は有効数字を表さない。
・・・あくまでも測定値の最低の有効数字が引き継がれるが、丸めを途中で何回もやってはいけない。・・この場合12.3が有効数字2ケタだと知りつつ3ケタのまま使い、最後に四捨五入して有効数字2けたにする。・・・質問者の勘違いの原因と推定します。
(3)平均2.05を有効数字2けたで四捨五入して2.0(2.0*10**1)・・JIS Z8401-1999規則B
が適切だと思います(中学校、高校でもそう習う。一般でもそう使う)
  (10**2は10の2乗で100です。10~2=100と書くときもあります)

WIKIPEDIA「有効数字」http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9% …
で良いのではないでしょうか?
    • good
    • 0

>普通の物差しで測った有効数字3ケタのデータ


2.0[mm]
2.1
2.2
2.1
1.9
2.0
があったとします。各データには±0.1程度の誤差があると考えられます。

技術系の立場のものから回答させていただく。
2.0,2.1,2.2,2.1,1.9.2.0と測定された時点で有効数字は2桁である。
以上六つのデータの平均は
(2.0+2.1+2.2+2.1+1.9+2.0)/6=12.3/6=2.05≒2.0
最後の丸めでなぜ2.1でなく2.0にしたかであるが,これはJIS Z 8401:1999(数値の丸め方)の2.c)規則Aに従ったからである。これは丸めた数値として偶数倍のほうを選ぶものであり,一連の測定値をこの方法で処理すると丸めによる誤差が最小になるという特別な利点がある。
一方,規則Bは丸めた数値として大きい整数倍のほうを選ぶもので,計算機による処理に広く用いられている。
またd)には,上述の規則を2回以上使って丸めることは誤差の原因となるので,丸めは常に1段階で行わなければならないことが明記されているので注意しよう。
    • good
    • 0

>少々場外乱闘の感になってしまうのですが、



それがわかっているなら終了してはどうですか?
はじめから質問者さんが望む解答をはるかに逸脱しています。
    • good
    • 2

少々場外乱闘の感になってしまうのですが、



hitokotonusiさん

> したがって、多数回の測定をすれば、測定器の精度より1桁程度はおそらく精度をあげることは可能、というのが私の見解です。
> それ以上はおそらく無理で、100回、1000回とくり返しても、標準偏差を計算すればおなじあたりに落ち着くはずです。
この前半については同意見ですが(何をもって精度とするかも曖昧ですし)、後半に関しては明確に異なります(平均値の標準偏差は測定回数を増やすとどんどん小さくなり0に収束します)。

平均値の標準偏差は理想的には、σ/√n となります。
ここでσは個々の測定値の標準偏差を示す定数であり、有限回の測定においては s=√(Σ(xn-<x>)^2/(n-1)) がよい推定値になります。
ですから、平均値の標準偏差の推定値は s/√n = √((Σ(xn-<x>)^2/n/(n-1)) となるのです。

s は n→∞ で一定値σに収束します。ですので、平均値の標準偏差(の推定値) s/√n はn→∞ で0になります。
ですから、「100回、1000回と繰り返しても標準偏差を計算すればおなじあたりに落ち着く」ことはありません。

そもそも測定値のばらつきの問題と分解能の問題は別です。
分解能が無限大の測定器でも値が真値のまわりにばらつくことはあり、逆に値にばらつきが全くなくても分解能が悪ければ値は一定の誤差を持ちます(極端なはなし10cm刻みでしか目盛りのない物差しで5.1cmの物を測ったら?)
前者は標準偏差で扱えますが後者は統計的な誤差ではないので標準偏差にはあらわれません。
    • good
    • 0

現実に不偏分散というものがあって、分散を計算するするとき、残差二乗和をnではなくn-1で割ります。

当然ご存じでしょうけど。この1の違いはデータ数が多くなれば事実上ほとんど気にする必要がないものです。にもかわらず、この不偏分散、あるいはその平方根である標準偏差は非常によく使われています。なぜでしょう?それは、

データ点数の少ない計測が現実には非常にたくさんある

ということです。机上で遊んでいるのとは違って、現場では厳密に数学的に正しくなくてもおおよその数字をださなければ話が進みません。ですから、この程度でも標準偏差は普通に使われます。もちろん6点は相当に少ないですが、それでも標準偏差を計算しないよりはましです。
    • good
    • 0

No5の方に補足します。



1000回計測しても、合計が5けたになるだけで、有効数字2けたは変化しません。
例えば合計2005.6だとしても、合計の有効数字も2けたの2000(正確には2.0×10**3)であり、平均は2005.6/1000=2.0056で有効数字は2けたなので、平均は2.0です。

No.4のかたへ補足します。
たかだか6個のデータで標準偏差を考えるのは、無理です。統計というのはできれば数百、なるべく数千というデータがあって成立するものです。だから99%とか「信頼区間」という用語があります。
    • good
    • 0

この例に限れば間違っているか微妙なところです。


一般的に言えばこの方法は間違っています。

たとえば、今回の実験で1000回の測定を行ったとします。
このとき和はおよそ5桁の有効桁数を持つでしょうから、平均も5桁の有効桁数を持ち、つまり0.1μmの精度を持つことになってしまいます。

無論、普通の物差しで何千回何億回測定しようがこれほど正確に対象の長さが分かるはずがなく、これは間違っています。
一般に、平均値も測定器の分解能以上の精度を持てません。

微妙なところと言ったのは、分解能を考慮した上でどの桁まで残すかにはやや曖昧なところがあるからです
(というより、単に私がこの点についての慣習を知らないだけなのですが)。
たとえば今回の測定では0.1mmの桁まで記録しているので、分解能を±0.05mm程度と考えることもできます。
誤差の桁まで桁を残すという慣習に従えば、0.01mmまで値を残すことになります。
しかし同じく±0.05mmの誤差を持つはずの個々の測定値はこの上の桁までしか書いてませんし、平均値も0.1mmまでしか書かないべきかもしれません。

いずれにしろ、もしさらに測定回数を増やしてもこの例で平均値が4桁以上の精度を持つことはないでしょう。


なお、一般にはもちろん、#4の方のおっしゃる(平均値の)標準偏差まで考慮する必要があります。
(平均値の)標準偏差が分解能よりも大きいうちは分解能を忘れてよくて、一方で測定回数をあげて(平均値の)標準偏差が分解能より小さくなってきた場合には分解能が効いてきてそれ以上精度はあがりません。
(高校生でしょうか、大学生でしょうか? 高校生ならば標準偏差まで考慮しなくてもいいかもしれません(するに越したことはありませんが))
    • good
    • 0

正しいです。


測定精度をあげるために多数回の測定をするのはこのためです。
だから、有効数字を考えて計算せよという問題ならそれで正解です。

ですが、この有効数字の計算というのは不用意に必要な桁を落してしまわないようにするためのものなので、
本当に計算上の桁まで有効かどうかは標準偏差を計算するまでわかりません。
なので、実際に測定に使う場合は必ず標準偏差を計算し、どこまで有効かを確認するひつようがあります。

この例では平均の標準偏差(*)が0.04になるので

2.05 ± 0.04 m

で、3桁でOKです。

(*) 平均の標準偏差 = √[ Σ(x-<x>)^2/n(n-1) ]
    • good
    • 0

『普通の物差しで測った有効数字3ケタのデータ 2.0[mm]』に問題があります。


2.0は有効数字2ケタです。

例えば、全部の測定値が2.0だった場合、平均は2.0であり、2.00にはなりませんが。

合計12.3÷6=2.05と割り切れたので、勘違いをしたと思われます。
この場合四捨五入して2.1です。

合計12.2÷6=2.0333333333・・・の場合は有効数字何けたになるのでしょう?


もっとも計測値が大量(できれば数百以上)にあった場合、また普通の(正規分布に従う)場合、
平均値が計測値よりだいたい一桁精度が高い場合が多いです。

だから、学校などの100点満点(1点刻みなので、有効数字2けた)のテストの平均が、58.5など0.1点まで書かれることが多いです。しかし、有効数字の考え方と運用から言えばナンセンスです。学年100人いたとして、合計58.5×100=5850点で、10点の採点ミスで0.1変化します。四捨五入によっては1点の採点ミスで、変化します。

有効数字の誤用は他にも見られます。例えば食品のカロリー数の表示です。「524カロリー」??
疑問
(1)食品成分表分析に使ったのと同じものですか?
(2)季節変動や、天然、露地、工場などを考慮していますか?
(3)皮むきや内臓処理などが正確に行われていますか?
(4)個体差は考慮されていますか?
(5)正確に盛りつけていますか?
などなど、せいぜいよく注意して±30カロリー、へたをすれば80カロリーくらいの誤差があると思います。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

gooドクター

このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング