有効数字についての質問 ①測定値 -10.04 ②真値 -10.0 の場合、（①-②）/②＊100で

有効数字についての質問

①測定値 -10.04
②真値 -10.0

の場合、（①-②）/②＊100で揉められる誤差率の有効数字を教えて欲しいです

何卒よろしくお願いします

質問者からの補足コメント

• すみません、揉められる→求められる、です

    補足日時：2017/07/02 10:52

No.3 ベストアンサー 回答者： yhr2 回答日時： 2017/07/02 17:54

No.2です。

＞（①-②）/②＊100で求められる誤差率の有効数字を教えて欲しいです

これを見落としていました。
この計算で、「② -10.0」が、「期待値」あるいは「ノミナル値（定格値、本来こうあるべき値）」ということであれば、この値が「② -10.0」でそれ以上の精度を持たない場合には、「（①-②）/②＊100で揉められる誤差、有効数字」は「② -10.0」の「3桁」に支配されることになります。その場合には「有効数字は３桁」ということになります。

そうではなく、「② -10.0」が実は「目標値であって、-10.0000000･･･」（＝ぴったり「 -10」）ということであれば、No.2に書いたように、「② -10.0」には「有効数字」という概念は存在せず、測定値である「 -10.04 」が「有効数字」を支配することになります。その場合が No.1 の回答です。

いずれにせよ、「② -10.0」の持つ意味合いによって、「有効数字」や「誤差」の考え方が変わります。

この回答へのお礼

有効数字や誤差について考えるときっかけになりました。この前の回答と合わせて、回答いただきありがとうございました。

お礼日時：2017/07/05 12:20

No.2 回答者： yhr2 回答日時： 2017/07/02 17:29

「真値」には有効数字など存在しません。

「正しい値そのもの」ということですから。

あくまで「測定値を、どれだけの精度で計測したか、その後差はいくつと評価できるか」ということです。

測定値が「 -10.04 」と4桁まで信頼性をもって計測できたのなら、その「4桁」が有効数字ということです。
それ以上でも、それ以下でもありません。

そもそも「真値」が分かっているのなら、「計測」してその情報を得る必要などありませんから。
「真値が分からない」から計測するのです。従って、最初に書いたように「真値」には有効数字など存在しません。

No.1 回答者： lupan344 回答日時： 2017/07/02 15:28

真値の有効数字は3桁と見なせば、測定値が4桁なので、誤差率の分子の有効数字は、測定値から真値を減じたものなので、小数点1位となり、有効数字は3桁です。

分母の有効数字は真値の3桁ですから、除法での有効数字は桁数の少ない方なので、3桁となります。
％にするための乗数100は、有効数字に無関係ですから、有効数字は3桁となります。

この回答へのお礼

回答ありがとうございました。お陰様で何とかなりました。

お礼日時：2017/07/05 12:19