1796.875 を有効数字3桁で表すとどうなるんですか？ 1800だと有効数字2桁になりますよね？

1796.875　を有効数字3桁で表すとどうなるんですか？
1800だと有効数字2桁になりますよね？

No.2 ベストアンサー 回答者： yhr2 回答日時： 2020/12/03 12:40

＞1800だと有効数字2桁になりますよね？

「1800」という書き方では、「0」が桁丸めの結果なのか、「有効」なのか区別できません。
なので、「指数表示」という方法があります。
（あたまの１桁だけ「正の整数」にするのが「標準的な書式」です）

1.8 × 10^3 なら「有効数字２桁」
1.80 × 10^3 なら「有効数字３桁」
1.800 × 10^3 なら「有効数字４桁」
1.8000 × 10^3 なら「有効数字５桁」

と、何桁でも表示できます。

そもそも「有効数字３桁の 1800」とは、「上から４桁目を四捨五入して３桁にした」というものなので、
　1795～1804.999･･･
つまり
　1800 ± 5
という意味です。

「有効数字５桁の 1800」とは、「上から６桁目を四捨五入して５桁にした」というものなので、
　1799.95～1800.0499･･･
つまり
　1800 ± 0.05
という意味です。

つまりは「どのぐらいの誤差があるか」の簡易的な表現です。

No.1 回答者： ShowMeHow 回答日時： 2020/12/03 11:43

1.80ｘ10³