オシロスコープの許容誤差の読み取り方について

オシロスコープを使用した際許容誤差を考えますよね。

その許容誤差についてなんですが、

例：20[mv/DIV]で測定した際結果は0[v]であった。

この場合の結果に書き方は、

0.0000±0.0004[v] (=0.4[mv])

でいいのでしょうか？

許容誤差は最小目盛りの1/10と習ったのですが、
先生にこの書き方は違うと言われ、
正しくは0.004[v] (=4[mv])だと言われました。

しかし20[mv/DIV]の場合最小目盛りは4[mv]なのでその1/10の0.4[mv]ではないのでしょうか？

教えてください。

No.1 回答者： nekonynan 回答日時： 2012/01/10 16:48

　書いてる内容は人為的読みよりの読取誤差の話ですね。

測定器の持っている誤差の話とは別の話です。

　先生の説明が悪いのがそもそも先生が理解してないのかは不明なのですが、普通最近のデジタルデスターは自動で測定値が出ます。測定する為にの線を合わせれば自動で値が出てきます。ピーク値などの自動で出ます。
　しかし書いてない内容から推察すると、自分の目で最小メモリの１／１０まで自分で観測して読んだ時の話に成ってます。したがって測定器の性能の誤差の話で無く人為的に読むさいの読取誤差と話と成ります。

　アナログ波形やアナログ針なので人間が測定する時には人為的な読取誤差がでます。通常は最小目盛の１／１０まで感で読みます。
　人により１V／DIVとしたとき　ある人は１．５V　ある人は１．６Vと差ができます。

　この時仮に±０．１DVIの読取誤差が生じる範囲と仮定した時に読みより誤差がどうなるか・・・


　
　20[mv/DIV]ですので±０．１DVIは　±２ｍVと成ります

　±0.00２[v] (=２[mv])が正しいです

　これを±０．２DVI読取誤差が生じる範囲と仮定すれば・・・


　±0.004[v] (=４[mv])と成ります


　
　　４ｍV⇒Vへの変換方法は　ｍ（ミリ）の意味は１０のマイナス３乗＝１／１０００

　なので４ｍV×（１／１０００）＝0.004Vと成ります


　計測値の書き方は有効数として最小目盛の１／１０まで書きます


　　0.0ｍVと書きます

　　
　　注意　１Vと　１．０Vの違いは

　１V⇒１．４～０．５Vで範囲であることを示します
　１．１Vならば　１．１４V～０．９５Vの範囲であることを示します。
　一番下の位を四捨五入されると１Vに１．０V成ります

　これが有効数字の意味です。


　
　例：20[mv/DIV]で測定した際結果は0[v]であった。

この場合の結果に書き方は、

0.0000±0.0004[v] (=0.4[mv])

でいいのでしょうか？


　正解は0.0ｍV　0.0×10のマイナス３乗　V　と有効数字が判るように書きます


　なお人為誤差や測定器の誤差については通常は書き加えません、

　

　　　

この回答へのお礼

先生の方のミスだったようです。
ありがとうございました。

お礼日時：2012/01/13 01:13