
No.1ベストアンサー
- 回答日時:
3桁という有効数字に対して最悪±0.5の誤差が考えられることから3 1/2桁という表現をしてます
判るように書くと
正しい数値が
1000~1004までならば
測定の結果の表示は有効桁字3桁でしめされる
ので100×10表示なります
ここには
有効数字3桁にたして
実際の数値は1000~1004のいずれでも同じ測定結果がでます
(測定器の誤差は無しとして)
実際には測定精度に最悪±0.5の誤差が起こるのです
最終的には機械に測定精度が記載されいるので
例
測定精度 ±5%rdg±2digit、
って感じですね
ご回答有難う御座いました。2つの意見が出てしまい、測定精度等で検索しても業界では常識らしく、意味の説明を特定する事は出来ませんでした。一旦締め切って再度質問させて頂きます。ポイントは先着で付けさせて頂きます。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
-
プロが教えるわが家の防犯対策術!
ホームセキュリティのプロが、家庭の防犯対策を真剣に考える 2組のご夫婦へ実際の防犯対策術をご紹介!どうすれば家と家族を守れるのかを教えます!
-
オペアンプ/反転増幅器/頭打ち
物理学
-
なぜ光は反射するの?
物理学
-
オペアンプのボルテージフォロアの帰還抵抗
物理学
-
-
4
量子化誤差について教えてください
その他(教育・科学・学問)
-
5
デジタルテスターによる抵抗測定
環境・エネルギー資源
-
6
テスターの仕組みについて
環境・エネルギー資源
-
7
プリント基板のスルーホールはレジストで埋めていい?
工学
-
8
条件付き書式で範囲外だったら塗りつぶす
Excel(エクセル)
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報