【初月無料キャンペーン中】gooドクター

1796.875 を有効数字3桁で表すとどうなるんですか?
1800だと有効数字2桁になりますよね?

gooドクター

A 回答 (2件)

>1800だと有効数字2桁になりますよね?



「1800」という書き方では、「0」が桁丸めの結果なのか、「有効」なのか区別できません。
なので、「指数表示」という方法があります。
(あたまの1桁だけ「正の整数」にするのが「標準的な書式」です)

1.8 × 10^3 なら「有効数字2桁」
1.80 × 10^3 なら「有効数字3桁」
1.800 × 10^3 なら「有効数字4桁」
1.8000 × 10^3 なら「有効数字5桁」

と、何桁でも表示できます。

そもそも「有効数字3桁の 1800」とは、「上から4桁目を四捨五入して3桁にした」というものなので、
 1795~1804.999・・・
つまり
 1800 ± 5
という意味です。

「有効数字5桁の 1800」とは、「上から6桁目を四捨五入して5桁にした」というものなので、
 1799.95~1800.0499・・・
つまり
 1800 ± 0.05
という意味です。

つまりは「どのぐらいの誤差があるか」の簡易的な表現です。
    • good
    • 2

1.80x10³

    • good
    • 1

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

gooドクター

このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング