アプリ版:「スタンプのみでお礼する」機能のリリースについて

100×(0.01-0.01×0.997044)÷0.01× 0.997044
の計算の結果の有効数字は何桁になりますか。

A 回答 (4件)

"100"ってのはどこまでが有効数字なのかが不明だからどうしようもない。


その上、カッコの中は桁落ちするので精度はまるでない。
仮に"100"が有効数字1桁なのだとすると、最大が約300≒150×(0.015-0.005)÷0.005、最小が約-300≒150×(0.005-0.015)÷0.005 だから、有効数字は強いて言うなら-3桁。
    • good
    • 1

100と0.01、さらには0.997044自体の有効数字桁数が明示されていない以上、そもそも「有効数字を問う資格のない」数式です。



(1)仮に一部中学高校の有効数字の単元で行われているように有効数字を「察する」と
100=1.00e2 (1e2という解釈もあり)
0.01=1e-2
0.997044=9.97044e-2
と解釈(実数部が有効数字を指す)すると、1e-2の有効数字が1桁なので、答えの有効数字は「1桁」です。
(2)それが嫌なら、先に100や0.01を整理するべきです。
    • good
    • 1

5桁。



もっと桁が欲しいなら
 「0.997044」
の桁数を上げましょう。
    • good
    • 0

自然科学のカテに持って来ても、言うことは同じですよ。



https://oshiete.goo.ne.jp/qa/12359616.html

「精度」「誤差」「不確かさ」をきちんと明示しなければ、計算結果の不確実さ、誤差は評価できません。

「有効数字」、「誤差伝播」については、下記の記事などを読んでみてください。

↓ 有効数字
https://eman-physics.net/math/figures.html

↓ 誤差の伝播
https://eman-physics.net/math/figures2.html
http://www.tagen.tohoku.ac.jp/labo/ishijima/gosa …
    • good
    • 1

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!