A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
No.1 です。
ちょっと補足。あなたのお示しのものは「引き算による桁落ち」という現象です。
#1 の最後に挙げたリンク先の「引き算の作法」にも書いてあるように
76.859 - 76.8433 = 0.0157
では、左辺の第1項が「小数3桁まで」しか有効ではないので、計算結果も「小数3桁まで」として
≒ 0.016
が最終結果になります。
つまり、もともと「有効桁5桁」と「有効桁6桁」の数値どうしで計算しているにもかかわらず、最終結果は「有効数字2桁」に減ってしまいます。
これを「桁落ち」とよびます。
あなたのお示しの例でも、「万の位と千の位」が有効な2つの数の引き算で、「万の位」が消えて「千の位」だけの結果になってしまうのです。
有効桁の「桁落ち」です。
有効桁2桁(万の位と千の位)が、引き算の結果で有効1桁(千の位のみ)になってしまっているのです。
なので、最終結果が「千の位の1桁」ということになるのです。
あなたの答
3.7 × 10^3 = 3700
の「百の位」は信頼できないので有効ではありません。
No.1
- 回答日時:
水蒸気圧を求める式は、指数表示ではない「生の値」で書けば
66000 [Pa] - 62250 [Pa] = 3750 [Pa]
ということです。
左辺のうち、信用できるのは「1000の位」までであり、
ということは右辺も「1000の位」までしか信用できません。
なので、計算結果を「1000の位」までの値として
4000 [Pa]
にしています。
「有効数字」というのは「誤差評価」の簡易版に過ぎません。
「桁数」で処理するのは「乗除算」であって、「加減算」では「有効な絶対桁」で処理します。
例えば
2.5 + 15.001 = 17.501 ①
だとしたら、小数第1位までは信用できるので
17.5
が有効数字を考慮した結果になるでしょう。
「2桁だから 18 だ」
としたら、かえって誤差が増えます。
①の式は、各々「表示された1つ下の桁を四捨五入したもの」と考えて
(2.5 ± 0.05) + (15.001 ± 0.0005)
=17.5001 ± 0.0505
と考えれば「17.5」とすることが妥当だと判断できるはずです。
「有効数字」の考え方とはそういうものです。
基本的な考え方は、こんなサイトを参考にしてください。
↓
https://eman-physics.net/math/figures.html
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 化学 化学の有効数字で指定なしの場合、例えば正答で0.100と書いてあって自分の回答は0.1や0.10と書 5 2022/11/19 13:56
- 高校 高校化学有効数字計算 4 2023/02/26 09:09
- 計算機科学 この問題なぜ答えが有効数字2桁なんでしょうか、問題の数字は有効数字3桁なのに… 5 2022/06/17 10:06
- 高校 有効数字の問題です。 2×1.41は2の有効数字は1で1.41の有効数字は3なので少ない方に合わせて 5 2022/05/14 18:22
- 数学 有効数字について この問題の答えが60.0分となっていたのですが、有効数字が3桁なのはどこから判断し 1 2022/04/06 13:16
- 化学 有効数字に関する問題です。32.75という数値が問題上に出た問題があり、9.938136という答えが 3 2022/11/30 10:56
- 高校 化学で有効数字2桁で答える場合、 0.010を0.1×10の-2乗 と答えても問題ないですか? どち 3 2023/08/07 21:05
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 化学 化学基礎 有効数字が2桁で答えが0.050になる問題の答えが 5.0×10マイナス二乗 だったんです 1 2022/10/23 15:06
- 計算機科学 99の問題なんですが、(1)を計算すると125になって有効数字三桁なので1.25×10^2mlかなと 3 2022/08/25 11:52
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
小三算数です。 0➗4=0 4➗0=0...
-
X2乗-1を公式を利用する因数...
-
1500円に3/4を乗じるとは!?...
-
xかけるxって答えなんですか?
-
1から9までの9個の数字から異な...
-
時速40㎞を分速に直すとどのく...
-
(2分の3)の2乗と(2分の3の2...
-
6➗8= 答え 何あまり何 で答えて...
-
数学A (x+y+z)^5の展開式の異な...
-
高1数Aの問題です。 0.0.1.1.2...
-
数B 数列について 209 (1) 2, 2...
-
閲覧をカンランと読む人が多い理由
-
2√2の答えを教えてください!
-
1から順番に、奇数だけを100個...
-
階差数列の一般項の出し方が分...
-
この問題の式を教えてください...
-
一次方程式と二次方程式の連立...
-
aの2乗かける4乗の答えはなんで...
-
問題集は一冊を極める?
-
3分の2時間を 分に直すにはどー...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
小三算数です。 0➗4=0 4➗0=0...
-
1から9までの9個の数字から異な...
-
小学5年の算数です。 姪の宿題...
-
xかけるxって答えなんですか?
-
X2乗-1を公式を利用する因数...
-
3分の2時間を 分に直すにはどー...
-
1500円に3/4を乗じるとは!?...
-
(2分の3)の2乗と(2分の3の2...
-
100mを3秒で走った場合、時速に...
-
『1以外に正の公約数をもたない...
-
数学A (x+y+z)^5の展開式の異な...
-
(√2ー√6)の2乗の答えが、2+4√3...
-
数B 数列について 209 (1) 2, 2...
-
時速40㎞を分速に直すとどのく...
-
中1の数学 テスト問題です。
-
6➗8= 答え 何あまり何 で答えて...
-
場合の数 3の倍数(中学受験で...
-
階差数列の一般項の出し方が分...
-
数学についていくつか質問させ...
-
階差数列ってなぜn≧2じゃないと...
おすすめ情報