有効数字 定数は測定値の桁数よりも1桁多く取る。と書かれているのですが、 もし有効数字1桁のものと、

有効数字

定数は測定値の桁数よりも1桁多く取る。と書かれているのですが、
もし有効数字1桁のものと、2桁のものと、定数がかけられているとしたら、定数は2桁ですか？1桁ですか？

No.4 ベストアンサー 回答者： tknakamuri 回答日時： 2018/07/02 16:10

充分正確にわかっている定数のどの桁まで使うか

という話だと思いますが、筆算が前提なら、
手間を考えて有効数字+ー桁
でも良いでしょう。

計算機使うなら、計算機の精度そのままで良いです。

要は最後に不確かさの見積もりが出来れば良いので、
計算は使う機器の都合に合わせて構いません。精度が
ひくすぎなければ良いのです。

丸めは計算の最後に行うことが推奨されています。
途中の計算は有効数字より充分高い桁数で行って
余分な不確かさが混入するのを防ぎます。

その上で、計算結果の不確かさを別途見積もるのです。

この回答へのお礼

すごく欲しかった答えがいただけました！拙い文章からここまでお答えいただきありがとうございました！

お礼日時：2018/07/02 17:07

No.3 回答者： angkor_h 回答日時： 2018/07/02 16:02

N0.1です。

> 例えば、2×√2×2.0だとしたら、√2は1.4で計算すれば良いということですか？
測定値と定数の区別が無いので判断しかねますが、
2.00×1.41×2.0xであれば十分でしょう。

No.2 回答者： kairou 回答日時： 2018/07/02 15:40

測定値の有効数字が、1桁のものと、2桁のものとが混在していると云う事ですか。

ならば、２桁の測定値は１桁の位までしか意味がありません。
「定数」の意味がよく解りませんが、全体の有効数字は１桁であると思われます。
「定数は測定値の桁数よりも1桁多く取る」ならば、２桁で計算するのでしょうね。

No.1 回答者： angkor_h 回答日時： 2018/07/02 14:46

> 定数がかけられているとしたら、

意味不明。

測定器が複数あって、その有効桁が一桁と二桁の混在と言うことで有あれば、
その測定系全体の信頼度は一桁しかないので、
利用する定数は二桁あれば十分です。

但し、有効桁の影響は乗除算に現れ、加減算では位に現れるので、ご注意ください。

この回答へのお礼

文がおかしくてすみません。

例えば、2×√2×2.0だとしたら、√2は1.4で計算すれば良いということですか？

お礼日時：2018/07/02 15:19