
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
そもそも、「-8.8」とか「-10.3」という数値にはどれだけの「誤差」があると想定されるのですか?
「有効数字」というのは、そもそも「誤差」計算の簡易版に過ぎませんから、それよりも「正しい誤差評価」をするのが先決です。
10^(-8.8)/10^(-10.3) = 10^(1.5)
ですから、もし
10^(1.5 ± ε)
という「誤差 ε」を持っているのなら
10^(1.5 ± ε) = 10^(1.5) × 10^(±ε)
ですから、これが誤差を含んだ計算結果ということになります。
ε = 0.05 であれば(「-8.8」や「-10.3」という数値が、その1つ下の桁を四捨五入した程度の不確定さを持つとして)
10^(-0.05) = 0.89125・・・ ①
10^(0.05) = 1.122018・・・ ②
ですから、
10^(1.5) = 31.62277・・・
に対して、
28.183829・・・ ~ 35.481338・・・
ぐらいの数値になります。
①②から分かるように、± 11~12% の誤差をもちますから。
もし、そもそもの計算する前の数値に
10^(-8.8 ± ε1)
10^(-10.3 ± ε2)
という誤差があるのであれば、その計算結果は
10^{1.5 ± √[(ε1)^2 + (ε2)^2]}
の誤差をもつと評価されますので、それで計算してください。
詳しくは、下記の「誤差伝播」の考え方などを参照してください。
↓
http://www.tagen.tohoku.ac.jp/labo/ishijima/gosa …
No.1
- 回答日時:
「10^n」と言うのは、その被乗数の位取りを表すものであり、
有効桁数は被乗数の表示桁数が表します。
その設問の中で扱われてる数値の有効桁数か、
あるいは設問が指示する有効桁数に従ってください。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- FX・外国為替取引 ロスカットまでいくらまで耐えられる 1 2022/07/01 17:48
- 数学 中一の四則の混じった計算の、指数とカッコを含む式の計算と言うやつです -2+4×(-5+2²) =- 4 2022/06/14 23:11
- 化学 【 化基 相対質量 】 相対質量を求めるときに、指数がーになっている数の割り算をするのですが、どうす 2 2022/09/14 20:35
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 株式市場・株価 日経平均株価のPERについて 1 2022/03/22 21:14
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- その他(Microsoft Office) Excelで時間計算(負) 8 2023/02/26 05:47
- C言語・C++・C# C言語 3 2022/10/04 15:07
- その他(お金・保険・資産運用) 至急!【Wolt】各メニューの価格設定の簡単な計算方法 3 2023/03/05 11:58
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
小数第一位までのときは、第二...
-
ガラス器具の許容範囲誤差と有...
-
2010excelで計算結果がおかしい
-
換算収率
-
有効数字
-
計算結果の微妙なズレ(大学入試)
-
kDaからbpへの変換について
-
有効数字の計算についての質問...
-
有効数字について
-
割合…100円の1%は何円ですか? ...
-
面心立方格子 計算
-
対数の誤差計算についての質問...
-
有効数字についてですが、掛け...
-
日本薬局方の数字の丸め方につ...
-
20000円の3分の2の計算のしかた...
-
化学です。 ある問題で無理数√3...
-
高校化学の計算問題についてで...
-
ROUNDDOWNの計算が、合わないの...
-
第2イオン化エネルギー
-
電子天秤のメモリ
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
小数第一位までのときは、第二...
-
ガラス器具の許容範囲誤差と有...
-
20000円の3分の2の計算のしかた...
-
kDaからbpへの変換について
-
有効数字
-
有効数字についてですが、掛け...
-
計算結果の微妙なズレ(大学入試)
-
有効数字について
-
ROUNDDOWNの計算が、合わないの...
-
対数の誤差計算についての質問...
-
有効数字の計算についての質問...
-
数字のあらわし方について
-
クエン酸水のpH
-
高校化学の計算問題のコツを教...
-
化学(原子量)の有効数字
-
【高校化学】有効数字の指定が...
-
電子天秤のメモリ
-
1.0×10のマイナス14乗÷2.0×10の...
-
ある化合物の水酸基価を確認し...
-
「六捨七入」すればまだまだ二...
おすすめ情報