アプリ版:「スタンプのみでお礼する」機能のリリースについて

100×(0.01-0.01×0.997044)÷0.01× 0.997044
の計算の結果の有効数字は何桁になりますか。

A 回答 (3件)

小数点以下2桁。

0.29
    • good
    • 0
この回答へのお礼

ありがとうございます。

お礼日時:2021/05/15 21:19

0 桁じゃない?


引き算のところで、有効桁がひとつも重なってない。
    • good
    • 0

「数学」においては「有効数字」などというものは存在しません。


計算結果そのものが答です。

書かれた数値に「誤差」「不確定さ」「上下限範囲」がある場合に、その「誤差」が計算結果にどう影響するかを評価する「誤差伝播」というものが必要になります。
本来はきちんと「誤差評価」をしなければいけないところを、「もっともらしい範囲」を簡易的に「表示桁数」だけで表わそうという「手抜き処理」が「有効数字」というものです。

お示しの例でいえば、与えられた数値の表示桁の一つ下に「四捨五入した」不確定さがあると考える場合、その「不確定さ」がいくつか、たとえば
・表示数:100 → 100 ± 0.5 の不確定さを持つ
 (つまり、99.5 ~ 100.4999・・・ のいずれかを、少数以下を四捨五入して「100」と表記している)
なのか
・100 → 100 ± 5 の不確定さを持つ
 (つまり、95 ~ 104.9999・・・ のいずれかを、「1の位」を四捨五入して「100」と表記している)
・100 → 100 ± 50 の不確定さを持つ
 (つまり、10 ~ 149.9999・・・ のいずれかを、「10の位」を四捨五入して「100」と表記している)
のかが判別できないので、「有効数字」という考え方を適用することすら不可能です。

「0.01」は「0.01 ± 0.005」としか考えようがなので、最も保守的に考えれば「有効数字は1桁」です。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!