No.2ベストアンサー
- 回答日時:
目盛りで1.5Vと読んだとき、
それはどんぴしゃり1.5ではなくて1.6かなー、1.4かも知れない、というふうに「誤差」が伴いますね。
1.5と1.4の違いは、1.5/1.4=1.07・・ですから約7%ぐらいですね。
人間の目で測定したとき、この誤差を避けることはできません。
ふつうは最小目盛りの10分の1までを頑張って読みとって、その値を記録することになっています。
ですから、3Vと記録してあれば、これは2.5~3.4Vのことをあらわしています。
めもりが下のように
2 3 4 5 6
| | | | | |
となっていれば、最小目盛りは1V、したがって頑張って0.1まで読みとり、
3.0 とか3.3V などと記録します。
3 4
|||||||||||
となっていれば、最小目盛りは0.1V、頑張って0.01まで読みとり、
3.00V とか3.03V などと記録します。
この例でお分かりでしょうが、
3.0よりも3.00のほうが誤差が少ない、細かいところまで測定した数値をあらわしています。
この誤差の程度はこの数字が上の桁(左)から何桁並んでいるかでわかりますね。
3.0は2桁。3.00は3桁です。これを数学や物理では「有効数字が2桁あるいは3桁である」といっています。
有効数字が1桁ならばおよそ10%の誤差、2桁ならば1%程度の誤差といっても良いでしょう。
これらをふまえて、話を あなたの疑問に戻しますと、
3Vを3.0Vと書くのは、0.1Vまでしっかり読みとりました、誤差は1%ぐらいですよ、という意味です。
300V は小数点がありませんからおおざっぱに見えるかもそれませんが、有効数字は3桁、0.1%ぐらいまで正しいですよ、という意味です。
ややこしい話ですね。
でもこれが理解できたら、計算するときも少数以下何桁も細かい計算をしなくても正しい答えを求めることができるようになります。
測定値の数字がどれだけ精確かを見るには「有効数字」、つまり
左からの数字の数、桁数 で判断してください。
高校の理科の試験などでは、有効数字を○○桁として計算せよ、というような問題文になります。
有効数字 誤差 などで検索してみてください
No.1
- 回答日時:
この回答への補足
15V端子で計った結果、4(4.0)Vになったときの
「.0」はなんなんでしょうか?
300V端子につなげた時は、「.0」はつけませんよね?
なぜですか?
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 物理学 測定データの読み方について教えて下さい 6 2023/07/09 16:43
- Android(アンドロイド) スマホに詳しい方、教えてください 4 2022/09/23 07:17
- CPU・メモリ・マザーボード CPUがメモリ上の命令を実行する流れについての質問です。 3 2023/05/05 01:41
- 車検・修理・メンテナンス 暗電流計測 6 2022/03/27 12:38
- LANケーブル・USBケーブル 電源ユニットの故障確認 2 2022/08/31 13:39
- その他(パソコン・周辺機器) タブレットで使用するUSBメモリについて 7 2022/05/26 14:27
- 電気工事士 10A DC100v デジタル電圧電流計と50Aシャント抵抗 9 2023/06/16 15:53
- 物理学 ホイートストンブリッジについて質問です。教科書を読んでいると、cd間に流れる電流が0になるように抵抗 2 2023/06/10 20:34
- 釣り ヘラブナ底釣のエサ落ち目盛 2 2022/10/06 18:49
- 物理学 インダクタンス Lの電圧測定において測定してるものの実態は何か? 1 2022/06/19 23:30
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
時定数で実験で求めた値と理論...
-
LC発振回路の発振周波数が理論...
-
誤差率が1%はおおきいですか?...
-
誤差について
-
誤差を含む加減乗除
-
0.5797を少数第3位まで求めよと...
-
誤差の割り算?
-
マイナスを含むデータの平均と分散
-
素朴な疑問、なぜ高層ビルは1...
-
コンデンサの静電容量に誤差が...
-
寄与率が負になる意味
-
身長計。学校にあるやつ、病院...
-
相対誤差について
-
molにはどうして後に000がつ...
-
RC直列回路における位相の誤差
-
sinなどの有効数字
-
アンペアの違うACアダプタっ...
-
物理学(・工業力学)での小数の扱い
-
BPFの遮断周波数が想定した...
-
レーザーを使って光の回折と干...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報