有効桁数の決め方

有効桁数の決め方について質問です。

実際の測定結果においての有効桁数の決め方について困っています。
あるシステム(電源電圧3.0V)に±1mVの誤差をもった電圧を入力したとき、利得と位相の有効桁数は何桁になるのでしょうか？

No.3 回答者： Trick_Q 回答日時： 2009/01/25 23:35

＞有効桁数6桁の測定器での測定データの有効桁数は6桁でよろしいのでしょうか？

必ずしもそうなりません。
何の測定器なのか分かりませんが、例えば、６桁表示のデジタルマルチメータで、rdg誤差が±0.02%だったとします。（dgtは省略）
電圧２Vを測定して、表示が2.00000とぴったりになったとしても、
rdg誤差があるので、測定の範囲は、1.99960～2.00040となるので、どう見ても6桁ではないですよね。

また、ちょうど2.00000としましたが、実際の表示は、
2.00025、1.99987、2.00014、・・・
という具合に最後の何桁かが不安定に動いているかもしれません。
これも有効数字は、6桁ではないですね。

No.2 回答者： l4330 回答日時： 2009/01/25 20:48

　

有効桁数が小数第二位・・・・そんな物は存在しません
100000000000000000000000.99
これでも小数第二位ですがこんな桁で測定できる測定器はありません

普通の測定器は有効桁6桁くらいでしょう
http://www.yokogawa.co.jp/tm/Bu/7560/index.htm

有効桁について勘違いされてる様に思いますが
1234.56・・・6桁
0.123456・・・6桁
123456・・・6桁
12.3456・・・6桁

　
　

この回答へのお礼

おっしゃる通り有効桁数を勘違いしていました。。
ご指摘ありがとうございます。

有効桁数6桁の測定器での測定データの有効桁数は6桁でよろしいのでしょうか？

お礼日時：2009/01/25 21:15

No.1 回答者： l4330 回答日時： 2009/01/25 15:10

　

測定器の持つ有効桁に依存します

　

この回答へのお礼

ご回答ありがとうございます。
測定器の持つ有効桁数が小数第二位までだと、
どうなるのでしょうか？

お礼日時：2009/01/25 19:05