A 回答 (2件)
- 最新から表示
- 回答順に表示
No.1
- 回答日時:
水蒸気圧を求める式は、指数表示ではない「生の値」で書けば
66000 [Pa] - 62250 [Pa] = 3750 [Pa]
ということです。
左辺のうち、信用できるのは「1000の位」までであり、
ということは右辺も「1000の位」までしか信用できません。
なので、計算結果を「1000の位」までの値として
4000 [Pa]
にしています。
「有効数字」というのは「誤差評価」の簡易版に過ぎません。
「桁数」で処理するのは「乗除算」であって、「加減算」では「有効な絶対桁」で処理します。
例えば
2.5 + 15.001 = 17.501 ①
だとしたら、小数第1位までは信用できるので
17.5
が有効数字を考慮した結果になるでしょう。
「2桁だから 18 だ」
としたら、かえって誤差が増えます。
①の式は、各々「表示された1つ下の桁を四捨五入したもの」と考えて
(2.5 ± 0.05) + (15.001 ± 0.0005)
=17.5001 ± 0.0505
と考えれば「17.5」とすることが妥当だと判断できるはずです。
「有効数字」の考え方とはそういうものです。
基本的な考え方は、こんなサイトを参考にしてください。
↓
https://eman-physics.net/math/figures.html
No.2
- 回答日時:
No.1 です。
ちょっと補足。あなたのお示しのものは「引き算による桁落ち」という現象です。
#1 の最後に挙げたリンク先の「引き算の作法」にも書いてあるように
76.859 - 76.8433 = 0.0157
では、左辺の第1項が「小数3桁まで」しか有効ではないので、計算結果も「小数3桁まで」として
≒ 0.016
が最終結果になります。
つまり、もともと「有効桁5桁」と「有効桁6桁」の数値どうしで計算しているにもかかわらず、最終結果は「有効数字2桁」に減ってしまいます。
これを「桁落ち」とよびます。
あなたのお示しの例でも、「万の位と千の位」が有効な2つの数の引き算で、「万の位」が消えて「千の位」だけの結果になってしまうのです。
有効桁の「桁落ち」です。
有効桁2桁(万の位と千の位)が、引き算の結果で有効1桁(千の位のみ)になってしまっているのです。
なので、最終結果が「千の位の1桁」ということになるのです。
あなたの答
3.7 × 10^3 = 3700
の「百の位」は信頼できないので有効ではありません。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
-
これ何て呼びますか Part2
あなたのお住いの地域で、これ、何て呼びますか?
-
フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
あなたが普段思っている「これまだ誰も言ってなかったけど共感されるだろうな」というあるあるを教えてください
-
映画のエンドロール観る派?観ない派?
映画が終わった後、すぐに席を立って帰る方もちらほら見かけます。皆さんはエンドロールの最後まで観ていきますか?
-
海外旅行から帰ってきたら、まず何を食べる?
帰国して1番食べたくなるもの、食べたくなるだろうなと思うもの、皆さんはありますか?
-
天使と悪魔選手権
悪魔がこんなささやきをしていたら、天使のあなたはなんと言って止めますか?
-
有効数字が指定された測定値はなぜ整数部分が一桁の小数と10の累乗との積の形で表すのですか?
中学校
-
青線の部分は有効数字2桁なのに、何故❌なのですか?
数学
-
有効数字が整数部分の一桁で表すのはなぜですか? 桁数が多くなれば、その後の累乗の値も小さくなるのでは
数学
-
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・人生のプチ美学を教えてください!!
- ・10秒目をつむったら…
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・【大喜利】【投稿~9/18】 おとぎ話『桃太郎』の知られざるエピソード
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
6➗8= 答え 何あまり何 で答えて...
-
3分の2時間を 分に直すにはどー...
-
次の式は割り算のけん算の式で...
-
小三算数です。 0➗4=0 4➗0=0...
-
1から9までの9個の数字から異な...
-
xかけるxって答えなんですか?
-
X2乗-1を公式を利用する因数...
-
(2分の3)の2乗と(2分の3の2...
-
1から5までの5枚の番号札から1...
-
ab²、(ab)²、a+b²、(a+b)²それ...
-
中3数学です。x=ルート5+ルー...
-
この問題の解き方を教えてくだ...
-
時速40㎞を分速に直すとどのく...
-
⑴a²x+1=a(x+1) (2) ax²+(a²-1)x...
-
簡単な算数教えてください 1時...
-
一次方程式と二次方程式の連立...
-
xの係数の2/1の2乗を両辺に加...
-
1500円に3/4を乗じるとは!?...
-
階差数列ってなぜn≧2じゃないと...
-
質問にイエス/ノーをはっきり...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
3分の2時間を 分に直すにはどー...
-
1から9までの9個の数字から異な...
-
xかけるxって答えなんですか?
-
時速40㎞を分速に直すとどのく...
-
小三算数です。 0➗4=0 4➗0=0...
-
xy–xの因数分解の答え教えてく...
-
(2分の3)の2乗と(2分の3の2...
-
X2乗-1を公式を利用する因数...
-
6➗8= 答え 何あまり何 で答えて...
-
aの2乗かける4乗の答えはなんで...
-
3なんですけど1から99までの奇...
-
1500円に3/4を乗じるとは!?...
-
100mを3秒で走った場合、時速に...
-
数学A (x+y+z)^5の展開式の異な...
-
簡単な算数教えてください 1時...
-
15000円の5%オフ の計算の仕方...
-
小学5年の算数です。 姪の宿題...
-
(√2ー√6)の2乗の答えが、2+4√3...
-
一次方程式と二次方程式の連立...
-
二次方程式 この問題が分かりま...
おすすめ情報