有意桁数というものがあって、それが公に認知されている(出所がJISとかその他の公知規格)ものなのか、また有効桁数との関係等を悩んでいます。どなたかそちら方面に詳しい方がいらっしゃいましたら是非教えてください。お願いいたします。
有意桁数
・測定値に小数点が含まれている場合、または10のべき乗で示されている場合はべき乗以外のすべての桁を有意桁数とする。
例:0.001ー有意桁数3、1.01ー有意桁数3、3×10⁴-有意桁数1、1.25×10⁵ ー有意桁数3
・べき乗で示されていない自然数の場合で数値の後ろにゼロがある場合は、ゼロを省いた上位の数字の桁数を有意桁数とするが、1桁となる場合は、”2桁”とみなす(最低でも2桁とする)。
例;5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2、201ー有意桁数3
・測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
その 0.001 と 5000 の「桁数」は、
いわゆる有効桁数とは明らかに違うし、
何だか随分恣意的な感じなんだけれど…
誰がが私的に使っている記法でしょうか。
できれば、出典など挙げてもらえませんか?
alice_44様
早々に御回答いただきましてありがとうございました。
出展は申し上げられません。申し訳ありません。
ようするに有意桁数は、公知規格にtraceableできないということなのですね。
No.1
- 回答日時:
>例:0.001ー有意桁数3
これは×です。この0は位取りを示すだけの0なので有効桁数は1です。
>例;5000ー有意桁数2、3150ー有意桁数3、10ー有意桁数2
ここの0は位取りの0とも有効桁を意味する0とも受け取れるので、
前後の文脈で判断するしかありません。
有効桁数が重要な意味を持つなら、できれば避けたほうがいい書き方です。
>測定値のToleranceは、有意桁の最下位の1つ下の位で四捨五入する値とする。
JISではもう少し複雑な丸め方が規定されています(JIS丸め)。
しかし、最近は計算機を使うことも多いので四捨五入ですますことも増えているようです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 高校 この問題の(2)なぜ答えが有効数字1桁なんですか?自分は有効数字2桁で3.7×10^3にしました 2 2023/02/11 17:23
- 物理学 丸め 5 2022/08/04 12:25
- PDF C#でfloatを整数部、小数部とも桁数固定で文字表示したい 2 2022/07/28 09:37
- 計算機科学 この問題なぜ答えが有効数字2桁なんでしょうか、問題の数字は有効数字3桁なのに… 5 2022/06/17 10:06
- 高校 何故1番と3番では有効数字3桁で荒らされているのに、 4番は2桁なんですか? 2 2023/05/20 14:13
- 大学・短大 化学得意な方にお聞きしたいのですが、ビタミンB12を18.5ppb含有する栄養補助食品を作るには、5 2 2022/05/30 22:41
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
2進数の割り算が分かりません...
-
60進法と10進法
-
数字3桁の組み合わせの何通り...
-
数値とアルファベットに分ける...
-
おつりの簡単な計算方法?(引...
-
3÷7のあまりは「3」ですか?
-
関数電卓の表示方法を変更したい
-
有効桁数とはなんですか?
-
EXCELで10万未満切捨ての...
-
0以下の数字は何桁?
-
Excelでの有効数字の合わせ方に...
-
電話番号のハイフンの入れ方
-
NUMBER(N,M) としたときの、格...
-
10進法の数を60進法の数に...
-
【場合の数】 2桁の自然数で、2...
-
0.1と0.10の違い
-
です。 0.008020 の有効数字は...
-
1から1000までの1は何回でるの?
-
算数です。 割り算の筆算で、商...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
数字3桁の組み合わせの何通り...
-
2進数の割り算が分かりません...
-
数値とアルファベットに分ける...
-
60進法と10進法
-
3÷7のあまりは「3」ですか?
-
EXCELで10万未満切捨ての...
-
電話番号のハイフンの入れ方
-
NUMBER(N,M) としたときの、格...
-
【場合の数】 2桁の自然数で、2...
-
エクセル関数で桁数指定し数値...
-
10進法の数を60進法の数に...
-
数学の階乗はどんな時に使うの...
-
3分の1とは何パーセントでしょ...
-
0以下の数字は何桁?
-
エクセルのsumifの検索値
-
7で始まる電話番号?
-
Excelで数値の丸め
-
関数電卓の表示方法を変更したい
-
web上の電話番号リンクの桁区切...
おすすめ情報