最大1万円超分の電子書籍プレゼント♪

初歩的な質問で恐縮ですが、調べても良く分かりませんでした。
次のような場合、有効数字はどのようになるのでしょうか。

例)真の値が1.50、測定値1.55(有効数字3桁)のとき、
誤差ε=1.55-1.50
  =0.05
質問1 引き算のときは、このように桁落ちが発生するので気をつけよ、とまでは書いてあるのですが、どう気をつけるのでしょうか?
有効数字は1桁になってしまったということなのか、5.00×10^2と言う風に3桁に直しておきなさいと言うことなのでしょうか?

質問2 誤差率を求める場合、
誤差率=(0.05/1.50)×100%
   =3.333・・・%
質問1の結果によりますが、この場合、何桁で書くのだ正しいですか?
有効数字1桁でしたら、3%
有効数字3桁でしたら、3.33%
の、どちらかだと思うのですが。

宜しくお願いします。

A 回答 (2件)

質問1


有効数字が1桁になってしまったということです。
ここでは小数点以下2桁までが正しい値です。ところが誤差を計算したら小数点以下2桁目だけの数字になってます。1の位や0.1の位の値がゼロなので、結局正しい値は「5」だけとなり、有効数字が1桁です。

質問2
結果を先に言うと計算式に使った数値の中で、一番有効数字の小さいものにあわせます。なので3%です。
0.05→1桁
1.50→3桁
1.50→3桁
100→∞
なぜかというと、それぞれの有効桁の1つ下の桁で数値を少しズラして計算してみて下さい。例えば0.05を0.051にして計算してみるのです。計算結果の数字の変化を考えると有効桁数2桁目で変化してる筈です。また、1.55を1.552にして計算すると、答えの数値は有効桁数4桁目で変化してる筈です。トータルで考えると計算値は有効桁数2桁目で変動する可能性があるので、有効桁数1桁です。
    • good
    • 0
この回答へのお礼

明快なご回答ありがとうございました。
納得できました。

お礼日時:2007/11/02 19:27

測定値1.50ならば・・通常


1.504~1.495までの間に測定値があります
通常は有効数字の1つ下の桁で四捨五入します
したがって・・・
真値は誰にも判りません・・・誤差とはその範囲のどこかに真値があって意味ですから・・

仮に1%誤差がある測定器で測定すると
測定値が1.000ならば

1.010~9.990の間に真値があります
どこに有るのかは誰にも判りません

測定器の誤差とそんな考え方です

単に測定の有効数字ならば・・・・
誤差ε=1.55-1.50
  =0.05
が正確です

1.5と1.50とは意味が違います
この意味です
測定値が1.5ならば
1.54~1.45の間に測定値があります

1.50ならば
1.504~1.495の間に測定値があります
ので精度が違います

有効数字は3桁です
100%ですから 100が基準ですこれ
これの有効数字3桁ですから
003%ですので三桁になります 3%が有効数字3桁です
3%は0.03ですのでこのようにすれば判り易いでしょう
有効数字が3桁になるでしょう

この回答への補足

ご回答ありがとうございます。
貴重なお時間を割いてくださり、ご丁寧な回答を書いていただきましたが、質問が悪いためか、私が望む回答ではありませんでした。
最後のところは、3%は左のゼロはカウントしないので、1桁だと思います。

質問1のところで、引き算の結果、有効数字が1桁のままでいいのかどうかが分からないことと、もし1桁の場合、割り算(または掛け算)のルールですと、割った結果、分母と分子のうち有効数字の少ないほうに合わせると思います。すると、質問2の計算は3%と、1桁でいいのかなぁと思ったのです。結局、質問1の引き算は有効数字1桁でいいのでしょうか。
ありがとうございました。

補足日時:2007/11/02 19:11
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています


このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング