有効数字について質問です。 1度ずつのメモリがある温度計で測ると10.1度のように小数点一桁まで読め

有効数字について質問です。

1度ずつのメモリがある温度計で測ると10.1度のように小数点一桁まで読めるので有効数字は3桁です。

例えば100.1では有効数字が4桁で、1.1は有効数字が2桁ということでしょうか？

実験の計測値によって有効数字は変化してよいのですか？

質問者からの補足コメント

• 誤差の有効数字と測定値の有効数字は本質的に異なるという解釈でよろしいでしょうか

    補足日時：2017/02/08 01:47

No.6 回答者： kamiyasiro 回答日時： 2017/02/03 06:06

企業に勤務する統計家です。

実務の立場では、私も#5さんの意見に賛同です。
あくまで、実務の立場で回答します。

> 有効数字が2桁ということでしょうか？

有効数字が何桁ですか、という質問自体、馬鹿げています。
欲しい精度や保証できる精度は、±○○と指示します。
ご質問者が言われているのは10.1±0.05℃ですよね。
10.10±0.05℃ でも同じです。
メーカーに行って御覧なさい。全てこうです。
工業では、±のあとの数字は、標準偏差σの3倍の値が来ます。

医学・生理学では、標準誤差（＝σ／√n）が表示される時がありますので
注意して下さい。

> 実験の計測値によって有効数字は変化してよいのですか？

変化しても構いません。
10000℃付近で、零点何度だけ変動しているようなケースは、
その小数点以下の変動だけが有効で、10000℃は不要な数値ですよね。
それでも有効数字何桁の議論をしますか。

有効数字議論が馬鹿げているのは、

今の統計処理は、コンピュータで行われるので、
途中の計算過程ごとに丸めていると、
最終結果が合わなくなるからです。
論文などでは「再現可能性」リプロダクティビティという
観点から、検証できないような数字を書くのはまずいのです。

しかし、観測値が小数点以下１桁しかないのに、
平均が小数点以下延々と計算され、そのために、
報告書の値や工程内管理値がそのように延々と指示されても
困るわけで、その時は、

・和差は、小数点以下の桁数を揃える。
・積商は、頭からの個数を揃える。（○○E-4 のように）
・分散のような２乗値は、頭からの個数を２倍にする。

これは、計算途中ではなく、最後の最後に処理します。

でも、10と10.1の平均の真値は、10.05なので、10.1と変えてしまうと
保証限界側に動いてしまいます。
その代わり、±○○の値は、偏った分だけ調整しなければなりません。
それより、10.05±0.05℃とすべきです。

なお、学校教育で教えている有効数字は、
桁落ち、桁あふれが起きないため、大丈夫ですが、
実際の統計の場面では、この問題は要注意で、
大きな蜂の巣の重量に、蜂一匹ずつ体重を足して行っても、
有効数字を考えていると、結局何も増えていかない、
あるいは、何百万匹以降は増えていかないという
現象が起きます。桁落ちです。

これでも、有効数字信奉者は反論してきますが、
有効数字で示された数は、四捨五入された数であり、
そういう数字を「量子化」（ビット化）された数字と言います。
量子化したデータは、「量子化誤差」という
分散（ばらつき）が大きくなる現象が起きます。

統計学では、データは丸めては絶対ダメなのです。

後者の話は、
「シェパードの補正」
でググれば出てきます。
「量子化」で調べると違う話が出てきます。
統計における量子化とコンピュータ屋さんが言う量子化は
意味が違うのでご注意ください。
統計の方は「階級化誤差」と言った方が良いかも。

No.5 回答者： rabbit_cat 回答日時： 2017/02/02 21:33

基本的には、「有効数字」というのは、高校や大学の初年度の教科書にだけ登場するものでして、

仮にも「統計学」を少しかじっている人であれば、「有効数字」などという変な概念は、実務で使っては「いけません」
なんで、いったん試験で○をもらってしまえば、有効数字なんていう概念はきれいさっぱり忘れてください。
実際、まともな科学論文では、有効数字などといった変な表記を使うことはありません。（もし使えばレビュワーに直すように指摘されるはずです）

計測値（例えば10.1度）と、そこに含まれる誤差（例えば±0.1度）は、出自からして質的に全く異なる数字なわけで、
この２つを、無理やり混ぜ合わせて「有効数字」という１つの数字で表そうというのは、根本的におかしな話です。
実務では、質問文にある測定をしたのであれば、例えば「10.1±0.1度」のように、計測そのものと誤差をわけた表記をするようにしてください。

No.4 回答者： kairou 回答日時： 2017/02/02 21:02

100.1 も 10.1 も 1.1 も、全て「有効数字は小数点以下１桁」で良いのではないでしょうか。

整数部分については、有効数字３桁と云えば　123×10＾3　や　52.6×10＾2　等と表示しますよね。

No.3 回答者： angkor_h 回答日時： 2017/02/02 17:44

実験に於ける有効数字は、

利用した複数の計測器精度のうち、一番低いものに合わせることが必要です。
統計計算では一桁多く扱い、結果でその有効数値に丸めます。

No.2 回答者： GooUserラック 回答日時： 2017/02/02 17:39

そういえば「3.9＋5.1＝9」が正解で「3.9＋5.1＝9.0」が減点というのが有りましたね。

そんなこと言っている先生がいるからいけないんでしょうね！
http://headlines.yahoo.co.jp/hl?a=20161129-00000 …

No.1 回答者： GooUserラック 回答日時： 2017/02/02 17:31

小数点以下の桁数があっていれば良いです。

たとえば「10.0℃」を「10℃」としたらダメです。