プロが教える店舗&オフィスのセキュリティ対策術

指数を含む計算で有効数字の考え方はどうなりますでしょうか?
10^(-8.8)/10^(-10.3)=31.6227766

となりました。
この場合の指数計算の場合、指数を含めて計算するのでしょうか?
指数を考えて計算なら3桁なのか2桁のどちらになるのでしょうか?

A 回答 (2件)

そもそも、「-8.8」とか「-10.3」という数値にはどれだけの「誤差」があると想定されるのですか?


「有効数字」というのは、そもそも「誤差」計算の簡易版に過ぎませんから、それよりも「正しい誤差評価」をするのが先決です。

10^(-8.8)/10^(-10.3) = 10^(1.5)

ですから、もし
 10^(1.5 ± ε)
という「誤差 ε」を持っているのなら
 10^(1.5 ± ε) = 10^(1.5) × 10^(±ε)
ですから、これが誤差を含んだ計算結果ということになります。

ε = 0.05 であれば(「-8.8」や「-10.3」という数値が、その1つ下の桁を四捨五入した程度の不確定さを持つとして)
 10^(-0.05) = 0.89125・・・   ①
 10^(0.05) = 1.122018・・・   ②
ですから、
 10^(1.5) = 31.62277・・・
に対して、
 28.183829・・・ ~ 35.481338・・・
ぐらいの数値になります。
①②から分かるように、± 11~12% の誤差をもちますから。

もし、そもそもの計算する前の数値に
 10^(-8.8 ± ε1)
 10^(-10.3 ± ε2)
という誤差があるのであれば、その計算結果は
 10^{1.5 ± √[(ε1)^2 + (ε2)^2]}
の誤差をもつと評価されますので、それで計算してください。

詳しくは、下記の「誤差伝播」の考え方などを参照してください。

http://www.tagen.tohoku.ac.jp/labo/ishijima/gosa …
    • good
    • 0

「10^n」と言うのは、その被乗数の位取りを表すものであり、


有効桁数は被乗数の表示桁数が表します。

その設問の中で扱われてる数値の有効桁数か、
あるいは設問が指示する有効桁数に従ってください。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!