土曜の昼、学校帰りの昼メシの思い出

測定器の仕様等で3 1/2桁等の表示を見るのですが、1/2桁とはどのような事を意味するのでしょうか。以前から疑問に思っていたのですが、ご存知の方、宜しく回答お願い致します。

A 回答 (2件)

3桁という有効数字に対して最悪±0.5の誤差が考えられることから3 1/2桁という表現をしてます




判るように書くと

正しい数値が

1000~1004までならば

測定の結果の表示は有効桁字3桁でしめされる
ので100×10表示なります

ここには
有効数字3桁にたして
実際の数値は1000~1004のいずれでも同じ測定結果がでます
(測定器の誤差は無しとして)

実際には測定精度に最悪±0.5の誤差が起こるのです


最終的には機械に測定精度が記載されいるので


測定精度 ±5%rdg±2digit、
って感じですね
    • good
    • 1
この回答へのお礼

ご回答有難う御座いました。2つの意見が出てしまい、測定精度等で検索しても業界では常識らしく、意味の説明を特定する事は出来ませんでした。一旦締め切って再度質問させて頂きます。ポイントは先着で付けさせて頂きます。

お礼日時:2005/12/04 17:54

3桁で表示できる範囲が000から999までですが、


あと1/2桁分は、999を越えて1999まで表示できるようにした測定器です。2000は表示できない。
3999まで表示できるものもあります。
この場合たしか3 3/4桁表示だったと思います。
    • good
    • 2
この回答へのお礼

ご回答有難う御座いました。2つの意見が出てしまい、測定精度等で検索しても業界では常識らしく、意味の説明を特定する事は出来ませんでした。一旦締め切って再度質問させて頂きます。ポイントは先着で付けさせて頂きます。

お礼日時:2005/12/04 17:54

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています


おすすめ情報