No.2ベストアンサー
- 回答日時:
8.885 は 8.93に比べ小数点以下の桁数が多いため
計算結果は小数点第3位を丸めて小数点以下を2桁にします。
|8.885 - 8.93|=0.045
偶数丸めを採用すると
0.04
桁落ちは注意しようがしまいが避けられません。
結果の有効桁は―桁しかありません。
#先頭の2つのゼロは有効数字の有効桁数に入れてはいけません。
No.10
- 回答日時:
ANO4への補足
大学でも使いますよ~
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。
研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。
適材適所。
No.9
- 回答日時:
ANO4への補足
大学でも使いますよ~
学生実験で誤差の推定が可能に成る程
実験を繰り返すのは不可能だし。
研究室でも綿密な誤差解析が必要な測定値は
そうは無いです。
適材適所。
No.8
- 回答日時:
AN03 (yhr2さん)への補足です。
JIS Z 8401 では四捨五入は
「5. この規格では対象となる数値として正の数値しか想定していない。負の数値を対象とする場合は,その絶対値に適用しなけれはならない」
となってますので
0.045 → 0.05
-0.045→-0.05
ですね。また JIS Z 8401 は計算途中の丸めを
禁じているので、絶対値を取った後丸め
という手順になると思います。
No.3
- 回答日時:
乗除算は、「有効桁数」は関係なく「有効桁」で決まります。
「8.93」が「小数点以下2桁」までしか信用できないので、計算結果も「小数点以下2桁」までしか信用できません。「8.885」の「小数点以下3桁目」は誤差範囲に含まれてしまいます。
この計算では
8.885 - 8.93 = -0.045 → 小数点以下3桁目を四捨五入すると -0.04
8.93 - 8.885 = 0.045 → 小数点以下3桁目を四捨五入すると 0.05
となって、
|8.885 - 8.93| = 0.04
とするか
|8.885 - 8.93| = 0.05
とするかの決め手はありません。
JIS Z 8401 では「偶数丸め」として、端数が 0.5 なら結果が偶数になる方に丸めることを推奨していますので、その場合には「0.04」ということになります。
↓
https://kikakurui.com/z8/Z8401-1999-01.html
計算結果の「有効桁」はすでに「小数点以下2桁目」だけなのですが、その桁ですらこの程度の信頼度です。
「ほぼ等しい2つの数値の減算」では、このように「有効桁数が大幅に減少」することになります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
-
ゆるやかでぃべーと タイムマシンを破壊すべきか。
これはディベートの論題だと仮定したうえでの回答お願いします。あなたは、その末にタイムマシンを壊してしまうのか、使い道を探すのかどうかを考えてもらいたいです。
-
フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
あなたが普段思っている「これまだ誰も言ってなかったけど共感されるだろうな」というあるあるを教えてください
-
映画のエンドロール観る派?観ない派?
映画が終わった後、すぐに席を立って帰る方もちらほら見かけます。皆さんはエンドロールの最後まで観ていきますか?
-
海外旅行から帰ってきたら、まず何を食べる?
帰国して1番食べたくなるもの、食べたくなるだろうなと思うもの、皆さんはありますか?
-
天使と悪魔選手権
悪魔がこんなささやきをしていたら、天使のあなたはなんと言って止めますか?
-
有効数字と誤差率
物理学
-
実験における誤差範囲の許容範囲の決め方ってどうやればいいんですか? また、一般的には具体的にどこ程度
大学・短大
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・歩いた自慢大会
- ・許せない心理テスト
- ・字面がカッコいい英単語
- ・これ何て呼びますか Part2
- ・人生で一番思い出に残ってる靴
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・初めて自分の家と他人の家が違う、と意識した時
- ・単二電池
- ・チョコミントアイス
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
マイナスを含むデータの平均と分散
-
教科書に問題文の数値が整数の...
-
molにはどうして後に000がつ...
-
誤差率が1%はおおきいですか?...
-
身長計。学校にあるやつ、病院...
-
【エクセル】グラフ誤差範囲の0...
-
スマートウォッチから血圧測定...
-
素朴な疑問、なぜ高層ビルは1...
-
1が3で割り切れないということ...
-
身長測って174.5cmで公称で175...
-
直線性について
-
逆数の誤差
-
0.5797を少数第3位まで求めよと...
-
相対誤差について
-
対数グラフでエラーバーを追加...
-
表面抵抗の表現方法について教...
-
ご飯食べないでいたら身長2cm縮...
-
周波数確度ppmとは。
-
LC発振回路の発振周波数が理論...
-
時定数で実験で求めた値と理論...
おすすめ情報