＜測定値の有効数字について＞

＜測定値の有効数字について＞

測定における有効数字の数え方について質問があります。
一般に筆箱によく入ってる、簡単なプラスチックものさしで
構わないのですが、例えばこれの最小目盛が1mmだったとします。

このものさしを使って長方形の縦の短辺の長さを測ったとして、
目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。
この測定値の有効数字は3桁だと思います。

同じ長方形について長辺を測定して「12.34cm」と測定値を得たとき、
有効数字は4桁でしょうか??

おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字
までであるのに、有効数字の桁数は違うのでしょうか・・・？

また、和差なら問題ないのですが、
例えばこの長方形の面積を計算するために「1.23×12.34」と計算すると、
答えは「15.1782」なのですが、積と商に関しては小さいほうの桁数にあわせて
有効数字を決めることになっているかと思います。
3桁にあわせて「15.2」として良いのでしょうか？
もとの測定値における意味のある数字の位は0.01までだったのに、違和感があります・・・。


まだまだ有効数字を使い慣れていなくてよく分からないのですが、
詳しい方よろしくお願いいたします。

No.1 ベストアンサー 回答者： phobos 回答日時： 2010/05/18 16:53

> おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字

> までであるのに、有効数字の桁数は違うのでしょうか・・・？

有効数字の桁数は、この場合測定対象物の大きさと計測器具の精度(分解能)の比で決まってくるわけですから、同じ精度の尺で測定するのなら対象測定量が大きいほど有効数字の桁数が増すのは当然のことですね。

さて、ご質問の測定値がもしも精度0.1mmのノギスで測った数値であるのなら、測定値や積(面積)の有効数字桁数についての質問者さんのご理解はすべて正しいと思います。

ただ、一つだけ問題ありと思われるのは、１ｍｍ目盛のプラスチック尺を使って
> 目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。
> この測定値の有効数字は3桁だと思います。
と言えるかどうかと言う点ですね。

この場合「有効数字が３桁である」「意味のある数字の位は0.01」「1.23cmの測定値を得た」と言えるということは、工学の立場から言えば「測定値は1.225cm以上1.245cm未満である」と自信を持って言える、ということに等しいわけですが……
質問者さんはいかがでしょうか？

ベテランの職工さんならいざ知らず、私でしたら「簡単なプラスチックものさし」で測った場合はせいぜい精度0.5mmが限度なので、有効数字は２桁半とみなして
　12.5mm×123.5mm＝1542.5≒1550mm^2＝15.5cm^2
以上のことは、畏れ多くて言えません（＾_＾）。

No.2 回答者： phobos 回答日時： 2010/05/18 16:58

ANo.1の投稿を一部訂正させて頂きます。

　「測定値は1.225cm以上1.245cm未満である」→×
　「測定値は1.225cm以上1.235cm未満である」←○

No.3 回答者： hitokotonusi 回答日時： 2010/05/18 17:47

＞3桁にあわせて「15.2」として良いのでしょうか？

＞もとの測定値における意味のある数字の位は0.01までだったのに、違和感があります・・・。

この部分だけ。

11±1、つまり、10～12の範囲に正しい値がある測定値があるとします。
これを二つかけます。すると、

最小　10×10＝100
最大　12×12＝144

となるので、かけ算したときの正しい結果は100～144の範囲になります。
なので、元の数字は1の位まで意味がありましたが、
かけた結果は10の位までしか意味がありません。よって、有効数字は2桁。

±1がわかってなければ、中央が11なので

11×11＝1.2×10^2

と有効数字二桁で書くことになります。

おそらく、筆算で誤差がどこまで伝搬していくかという計算を習っているかこれから習うかと思うので、それを理解してください。