有効数字と誤差率

初歩的な質問で恐縮ですが、調べても良く分かりませんでした。
次のような場合、有効数字はどのようになるのでしょうか。

例）真の値が1.50、測定値1.55（有効数字3桁）のとき、
誤差ε=1.55-1.50
　　=0.05
質問１　引き算のときは、このように桁落ちが発生するので気をつけよ、とまでは書いてあるのですが、どう気をつけるのでしょうか？
有効数字は1桁になってしまったということなのか、5.00×10^2と言う風に3桁に直しておきなさいと言うことなのでしょうか？

質問２　誤差率を求める場合、
誤差率=（0.05/1.50）×100%
　　　=3.333・・・%
質問１の結果によりますが、この場合、何桁で書くのだ正しいですか？
有効数字１桁でしたら、3%
有効数字３桁でしたら、3.33%
の、どちらかだと思うのですが。

宜しくお願いします。

No.2 ベストアンサー 回答者： matchaman 回答日時： 2007/11/02 19:21

質問１

有効数字が１桁になってしまったということです。
ここでは小数点以下２桁までが正しい値です。ところが誤差を計算したら小数点以下２桁目だけの数字になってます。１の位や0.1の位の値がゼロなので、結局正しい値は「５」だけとなり、有効数字が１桁です。

質問２
結果を先に言うと計算式に使った数値の中で、一番有効数字の小さいものにあわせます。なので３％です。
0.05→１桁
1.50→３桁
1.50→３桁
100→∞
なぜかというと、それぞれの有効桁の１つ下の桁で数値を少しズラして計算してみて下さい。例えば0.05を0.051にして計算してみるのです。計算結果の数字の変化を考えると有効桁数２桁目で変化してる筈です。また、1.55を1.552にして計算すると、答えの数値は有効桁数４桁目で変化してる筈です。トータルで考えると計算値は有効桁数２桁目で変動する可能性があるので、有効桁数１桁です。

この回答へのお礼

明快なご回答ありがとうございました。
納得できました。

お礼日時：2007/11/02 19:27

No.1 回答者： nrb 回答日時： 2007/11/02 18:31

測定値1.50ならば・・通常

１．５０４～１.４９５までの間に測定値があります
通常は有効数字の１つ下の桁で四捨五入します
したがって・・・
真値は誰にも判りません・・・誤差とはその範囲のどこかに真値があって意味ですから・・

仮に１％誤差がある測定器で測定すると
測定値が１．０００ならば

１．０１０～９．９９０の間に真値があります
どこに有るのかは誰にも判りません

測定器の誤差とそんな考え方です

単に測定の有効数字ならば・・・・
誤差ε=1.55-1.50
　　=0.05
が正確です

１．５と１．５０とは意味が違います
この意味です
測定値が１．５ならば
１．５４～１．４５の間に測定値があります

１．５０ならば
１．５０４～１．４９５の間に測定値があります
ので精度が違います

有効数字は３桁です
１００％ですから　１００が基準ですこれ
これの有効数字３桁ですから
００３％ですので三桁になります　３％が有効数字３桁です
３％は０．０３ですのでこのようにすれば判り易いでしょう
有効数字が３桁になるでしょう

この回答への補足

ご回答ありがとうございます。
貴重なお時間を割いてくださり、ご丁寧な回答を書いていただきましたが、質問が悪いためか、私が望む回答ではありませんでした。
最後のところは、３％は左のゼロはカウントしないので、１桁だと思います。

質問１のところで、引き算の結果、有効数字が１桁のままでいいのかどうかが分からないことと、もし１桁の場合、割り算（または掛け算）のルールですと、割った結果、分母と分子のうち有効数字の少ないほうに合わせると思います。すると、質問２の計算は3%と、1桁でいいのかなぁと思ったのです。結局、質問１の引き算は有効数字１桁でいいのでしょうか。
ありがとうございました。

補足日時：2007/11/02 19:11