No.2ベストアンサー
- 回答日時:
8.885 は 8.93に比べ小数点以下の桁数が多いため
計算結果は小数点第3位を丸めて小数点以下を2桁にします。
|8.885 - 8.93|=0.045
偶数丸めを採用すると
0.04
桁落ちは注意しようがしまいが避けられません。
結果の有効桁は―桁しかありません。
#先頭の2つのゼロは有効数字の有効桁数に入れてはいけません。
No.10
- 回答日時:
ANO4への補足
大学でも使いますよ~
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。
研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。
適材適所。
No.9
- 回答日時:
ANO4への補足
大学でも使いますよ~
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。
研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。
適材適所。
No.8
- 回答日時:
AN03 (yhr2さん)への補足です。
JIS Z 8401 では四捨五入は
「5. この規格では対象となる数値として正の数値しか想定していない。負の数値を対象とする場合は,その絶対値に適用しなけれはならない」
となってますので
0.045 → 0.05
-0.045→-0.05
ですね。また JIS Z 8401 は計算途中の丸めを
禁じているので、絶対値を取った後丸め
という手順になると思います。
No.3
- 回答日時:
乗除算は、「有効桁数」は関係なく「有効桁」で決まります。
「8.93」が「小数点以下2桁」までしか信用できないので、計算結果も「小数点以下2桁」までしか信用できません。「8.885」の「小数点以下3桁目」は誤差範囲に含まれてしまいます。
この計算では
8.885 - 8.93 = -0.045 → 小数点以下3桁目を四捨五入すると -0.04
8.93 - 8.885 = 0.045 → 小数点以下3桁目を四捨五入すると 0.05
となって、
|8.885 - 8.93| = 0.04
とするか
|8.885 - 8.93| = 0.05
とするかの決め手はありません。
JIS Z 8401 では「偶数丸め」として、端数が 0.5 なら結果が偶数になる方に丸めることを推奨していますので、その場合には「0.04」ということになります。
↓
https://kikakurui.com/z8/Z8401-1999-01.html
計算結果の「有効桁」はすでに「小数点以下2桁目」だけなのですが、その桁ですらこの程度の信頼度です。
「ほぼ等しい2つの数値の減算」では、このように「有効桁数が大幅に減少」することになります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
-
ハマっている「お菓子」を教えて!
この世には、おいしいお菓子がありすぎて……。 次何を食べたらいいか迷っています。 みなさんが今、ハマっている「お菓子」を教えてください!
-
人生最悪の忘れ物
今までの人生での「最悪の忘れ物」を教えてください。 私の「最悪の忘れ物」は「財布」です。
-
CDの保有枚数を教えてください
ひとむかし前はCDを買ったり借りたりが主流でしたが、サブスクで簡単に音楽が聴ける今、CDを手に取ることも減ってきたかと思います。皆さんは2024年現在、何枚くらいCDをお持ちですか?
-
ちょっと先の未来クイズ第4問
11月ごろに発表される、2024年の「新語・流行語大賞」にノミネートされる言葉を書けるだけ書いてください。
-
架空の映画のネタバレレビュー
映画のCMを見ていると、やたら感動している人が興奮で感想を話していますよね。 思わずストーリーが気になってしまう架空の感動レビューを教えて下さい!
-
有効数字と誤差率
物理学
-
有効数字についての質問 ①測定値 -10.04 ②真値 -10.0 の場合、(①-②)/②*100で
物理学
-
実験における誤差範囲の許容範囲の決め方ってどうやればいいんですか? また、一般的には具体的にどこ程度
大学・短大
-
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・14歳の自分に衝撃の事実を告げてください
- ・架空の映画のネタバレレビュー
- ・「お昼の放送」の思い出
- ・昨日見た夢を教えて下さい
- ・ちょっと先の未来クイズ第4問
- ・【大喜利】【投稿~10/21(月)】買ったばかりの自転車を分解してひと言
- ・メモのコツを教えてください!
- ・CDの保有枚数を教えてください
- ・ホテルを選ぶとき、これだけは譲れない条件TOP3は?
- ・家・車以外で、人生で一番奮発した買い物
- ・人生最悪の忘れ物
- ・【コナン30周年】嘘でしょ!?と思った○○周年を教えて【ハルヒ20周年】
- ・ハマっている「お菓子」を教えて!
- ・最近、いつ泣きましたか?
- ・夏が終わったと感じる瞬間って、どんな時?
- ・10秒目をつむったら…
- ・人生のプチ美学を教えてください!!
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・都道府県穴埋めゲーム
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
molにはどうして後に000がつ...
-
時定数で実験で求めた値と理論...
-
誤差率が1%はおおきいですか?...
-
0.5797を少数第3位まで求めよと...
-
誤差の算出について
-
LC発振回路の発振周波数が理論...
-
教科書に問題文の数値が整数の...
-
マイナスを含むデータの平均と分散
-
相対誤差について
-
身長計。学校にあるやつ、病院...
-
RS232C 調歩同期のビットレート...
-
プランク定数の相対誤差について
-
高一の科学基礎。mol計算の有効...
-
sinθ≒θ の近似
-
誤差について
-
ニュートン環について
-
ランダム誤差と系統誤差
-
表面抵抗の表現方法について教...
-
【エクセル】グラフ誤差範囲の0...
-
対数グラフでエラーバーを追加...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
molにはどうして後に000がつ...
-
マイナスを含むデータの平均と分散
-
誤差率が1%はおおきいですか?...
-
時定数で実験で求めた値と理論...
-
教科書に問題文の数値が整数の...
-
直線性について
-
誤差について
-
0.5797を少数第3位まで求めよと...
-
身長計。学校にあるやつ、病院...
-
【エクセル】グラフ誤差範囲の0...
-
素朴な疑問、なぜ高層ビルは1...
-
逆数の誤差
-
23÷23×100⁼100.0(%)?
-
LC発振回路の発振周波数が理論...
-
誤差を含む加減乗除
-
オームの法則 レポートの考察...
-
対数グラフでエラーバーを追加...
-
RS232C 調歩同期のビットレート...
-
物理基礎について。有効数字に...
-
sinなどの有効数字
おすすめ情報