ある実験で測定値からある定数を求めました。測定値の最低有効桁数から結果を有効桁数3桁で表すと、文献値

ある実験で測定値からある定数を求めました。測定値の最低有効桁数から結果を有効桁数3桁で表すと、文献値と一致しました。文献値を真の値として相対誤差を評価したいのですが、この場合は相対誤差は0なのか、計算結果の小数点以下の桁数を多くとった値で相対誤差を求めるのかどちらが正しいですか。

No.1 ベストアンサー 回答者： yhr2 回答日時： 2018/06/28 15:21

＞この場合は相対誤差は0なのか

有効数字内で一致しているならそうです。

＞計算結果の小数点以下の桁数を多くとった値で相対誤差を求める

それは単に「ノイズ」を比較しているだけなので意味がありません。


有効数字3桁とは、

　a.aa × 10^n

ということで、真値が
　(a.aa ± 0.005) × 10^n
の範囲内にあるということです。

文献値も
　(b.bb ± 0.005) × 10^n
の範囲内と言っているわけで、その「0.005」の範囲内を相互に比べても何の意味もありません。

この回答へのお礼

解答ありがとうございます。

お礼日時：2018/06/29 11:41