有意桁数というものがあって、それが公に認知されている(出所がJISとかその他の公知規格)ものなのか、また有効桁数との関係等を悩んでいます。どなたかそちら方面に詳しい方がいらっしゃいましたら是非教えてください。お願いいたします。

有意桁数

・測定値に小数点が含まれている場合、または10のべき乗で示されている場合はべき乗以外のすべての桁を有意桁数とする。
例:0.001ー有意桁数3、1.01ー有意桁数3、3×10⁴-有意桁数1、1.25×10⁵ ー有意桁数3

・べき乗で示されていない自然数の場合で数値の後ろにゼロがある場合は、ゼロを省いた上位の数字の桁数を有意桁数とするが、1桁となる場合は、”2桁”とみなす(最低でも2桁とする)。
例;5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2、201ー有意桁数3

・測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。

A 回答 (2件)

その 0.001 と 5000 の「桁数」は、


いわゆる有効桁数とは明らかに違うし、
何だか随分恣意的な感じなんだけれど…
誰がが私的に使っている記法でしょうか。
できれば、出典など挙げてもらえませんか?
    • good
    • 0
この回答へのお礼

alice_44様
早々に御回答いただきましてありがとうございました。
出展は申し上げられません。申し訳ありません。
ようするに有意桁数は、公知規格にtraceableできないということなのですね。

お礼日時:2011/04/19 09:26

>例:0.001ー有意桁数3



これは×です。この0は位取りを示すだけの0なので有効桁数は1です。

>例;5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2

ここの0は位取りの0とも有効桁を意味する0とも受け取れるので、
前後の文脈で判断するしかありません。
有効桁数が重要な意味を持つなら、できれば避けたほうがいい書き方です。

>測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。

JISではもう少し複雑な丸め方が規定されています(JIS丸め)。
しかし、最近は計算機を使うことも多いので四捨五入ですますことも増えているようです。
    • good
    • 0
この回答へのお礼

hitokotonusi様
早々に御回答いただきましてありがとうございます。
明快な回答で、すっきりしました。

お礼日時:2011/04/19 09:31

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!


人気Q&Aランキング