http://www.nihs.go.jp/mhlw/jouhou/jp/jp15_genan_ …
上記URLの2.2.3の項目について説明するのですが
定量を例に説明しようと思っているのですが
規格値が98.5%~101.5%の場合
小数点以下一桁目までが有効数字なので
計算には小数点以下二桁目までを計算に使うといった
説明でいいのでしょうか?
実例として,次の計算結果を得られた場合
(1)100.453456
(2)100.789101
(3)100.698765
(1)100.45,(2)100.78,(3)100.69として
((1)+(2)+(3))/3=100.64
答え=100.6%という考え方(やり方)であってますか?
No.1ベストアンサー
- 回答日時:
専門ではないのですが、質問者様が実例で挙げられているような
事とは少し違うのではないかと言う印象を受けました。
参考URLの例で出ている1.249の四捨五入の方法ですが
n+2桁目から四捨五入を開始すると
1.249=1.25(四捨五入)=1.3(四捨五入)
になります。
そうではなく、
1.249=1.24(切捨て)=1.2(四捨五入)
としろという文章かと思いました。
普通、n+1桁目を四捨五入といえば後者の方法をとりますが、
前者の方法をとる人がいないとは限りません。
薬局方のような規定書では曖昧さを除くために、
ちゃんと後者でやれと表記してあるのではないでしょうか。
質問者様が挙げておられる実例の場合、3回の実験結果を平均して
100.647107=100.64(切捨て)=100.6(四捨五入)
とするのではないかなぁと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 労働相談 有給休暇使用時の賃金の計算方法について 5 2022/04/04 00:02
- Excel(エクセル) エクセルで、未来の月の数値を表示させないようにしたい 1 2022/05/07 18:58
- その他(教育・科学・学問) 1980 年代後半のバブル経済の頃 日本では預貯金金利が年7%を超えることもあり ました。 金利を7 3 2023/07/21 00:31
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- その他(メールソフト・メールサービス) クリック率とは? 1 2023/06/18 11:53
- 会計ソフト・業務用ソフト エクセルについて 1 2022/06/15 17:39
- 物理学 レイノルズ数の導出においての疑問 1 2023/04/16 15:59
- 労働相談 賞与カットの違法 3 2022/06/30 06:41
- その他(お金・保険・資産運用) 至急!【Wolt】各メニューの価格設定の簡単な計算方法 3 2023/03/05 11:58
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
kDaからbpへの変換について
-
20000円の3分の2の計算のしかた...
-
ガラス器具の許容範囲誤差と有...
-
亜リン酸H2PO3の酸化数
-
高校数学 群数列 (n≧2のとき)...
-
「六捨七入」すればまだまだ二...
-
化学部門でのお勧めの関数電卓
-
活性化エネルギーの求め方が分...
-
透過率から吸光度の計算が解け...
-
光学純度の問題がわかりません
-
有効数字二桁
-
小数第一位までのときは、第二...
-
カルピスの乳酸のモル濃度を書...
-
pHが2.4の酢酸を5倍希釈した溶...
-
電子天秤のメモリ
-
アルカンの異性体について
-
日本薬局方の数字の丸め方につ...
-
化学の有効数字指定なしの時の...
-
化学の口頭試問
-
logの計算
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
kDaからbpへの変換について
-
20000円の3分の2の計算のしかた...
-
ガラス器具の許容範囲誤差と有...
-
小数第一位までのときは、第二...
-
有効数字について
-
第2イオン化エネルギー
-
高校化学の計算問題のコツを教...
-
【高校化学】有効数字の指定が...
-
計算結果の微妙なズレ(大学入試)
-
化学での有効数字について(途...
-
水、10mg/dL標準液、血清の終点...
-
o-,p-,m-次クロロベンゼンの双...
-
Antoine式の定数について
-
有効数字についてですが、掛け...
-
1.0×10のマイナス14乗÷2.0×10の...
-
クエン酸水のpH
-
有効数字
-
透過率から吸光度の計算が解け...
-
化学(原子量)の有効数字
-
高校数学 群数列 (n≧2のとき)...
おすすめ情報