プロが教えるわが家の防犯対策術!

http://www.nihs.go.jp/mhlw/jouhou/jp/jp15_genan_ …

上記URLの2.2.3の項目について説明するのですが

定量を例に説明しようと思っているのですが
規格値が98.5%~101.5%の場合
小数点以下一桁目までが有効数字なので
計算には小数点以下二桁目までを計算に使うといった
説明でいいのでしょうか?

実例として,次の計算結果を得られた場合
(1)100.453456
(2)100.789101
(3)100.698765

(1)100.45,(2)100.78,(3)100.69として
((1)+(2)+(3))/3=100.64

答え=100.6%という考え方(やり方)であってますか?

A 回答 (1件)

専門ではないのですが、質問者様が実例で挙げられているような


事とは少し違うのではないかと言う印象を受けました。

参考URLの例で出ている1.249の四捨五入の方法ですが

n+2桁目から四捨五入を開始すると
1.249=1.25(四捨五入)=1.3(四捨五入)
になります。

そうではなく、
1.249=1.24(切捨て)=1.2(四捨五入)
としろという文章かと思いました。

普通、n+1桁目を四捨五入といえば後者の方法をとりますが、
前者の方法をとる人がいないとは限りません。
薬局方のような規定書では曖昧さを除くために、
ちゃんと後者でやれと表記してあるのではないでしょうか。

質問者様が挙げておられる実例の場合、3回の実験結果を平均して
100.647107=100.64(切捨て)=100.6(四捨五入)
とするのではないかなぁと思います。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています