0.991を四捨五入して有効数字２桁にすると？

0.991を四捨五入して有効数字2桁にせよ、という問について悩んでおります。
正解は、1.0のようです。これはこれで納得いくのですが、解答として0.99も棄て切れておりません。

同様に、0.99（ぴったり）を四捨五入して有効数字2桁にせよ、についてはいかがでしょうか。
やはり、1.0が正解のようなのですが、そのまま0.99が答えではないか（有効数字2桁そのままではないか）とも思われます。

正解とされているもの（1.0）では、有効数字とするための処理の結果、数値が一桁上がることを前提に、一の位を含めて有効数字をカウントしているようなのです。

内容は化学の計算問題からです（計算結果の最後の処理のところです）。

基礎的なところで恐縮ですが、お知恵を頂けるととても助かります。

No.4 回答者： kamisenbon 回答日時： 2014/06/15 19:22

質問者さんが問題を変に解釈してしまっているようですね。

No.1さんの回答者のお礼欄を拝見しました。
＞1.0×10^-10÷（1.0×10^-5＋1.0×10^-3)≒1.0×10^-7(mol/l)

ここで出てくる数値は３つ

(1)1.0×10^-10
＝０．０００００００００１０

(2)1.0×10^-5
＝０．００００１０

(3)1.0×10^-3
＝０．００１０

有効数字を見て考えれば(3)にとって(2)は誤差範囲です。
足し算になるので(2)は無視できる数になります。

(2)＋(3)
＝1.0×10^-5＋1.0×10^-3
≒1.0×10^-3
≒(3)
となるので

(1)÷（(2)＋(3)）
≒(1)÷(3)
＝1.0×10^-10÷1.0×10^-3
＝1.0×10^-7

となります。
最後に四捨五入するか、途中式で四捨五入しながら計算するかで結果は若干違ってきます。
有効数字の意味をしっかり理解していないと確かに勘違いしますね。


ちなみにこれはNo.1さんの回答を言い換えただけのつもりですので、ベストアンサーの対象にしなくて結構です♪

この回答へのお礼

まずは詳細かつご丁寧な回答、ありがとうございます。


高校レベルでの解説書を見ますと、途中の計算では、答えに要求される桁数より１桁多くとるようにする、とあります。そこで、割り算に入る前の足し算でも３桁でそのまま計算してしまいました。

でもよく見ますと、それは乗除の計算の話。「加減は、有効数字の末位の高いほうにそろえてから計算する」とあり、計算例もそのようになっておりました。仰せのとおり(2)は計算に含めなくなりますね。

私の完全な誤りでしたが、失敗してお尋ねしてやっとわかってまいりました。

皆様のお力添え、改めて御礼申し上げます。

お礼日時：2014/06/15 21:20

No.3 回答者： ikuzecia 回答日時： 2014/06/15 16:32

＞0.991を四捨五入して有効数字2桁にせよ

正解は0.99です。
＞正解は、1.0のようです。これはこれで納得いくのですが
間違いです。納得してはいけません。
＞内容は化学の計算問題からです
そのような計算問題集や解答集、破棄してください。
基本から間違ってます。
そのような参考書で勉強すればバカになりますよ。

この回答へのお礼

早速のご回答ありがとうございます。
とても助かりました。

お礼日時：2014/06/15 16:54

No.2 回答者： tknakamuri 回答日時： 2014/06/15 16:08

私は0.99にします。

こっちの方が元の値に
近いから。

この回答へのお礼

ご回答頂きましてありがとうございました。

お礼日時：2014/06/15 16:55

No.1 回答者： ORUKA1951 回答日時： 2014/06/15 15:50

0.991を有効数字二桁にするのは、0.99が正解です。

★0ではない数字より前に0がある場合、その0は有効ではありませんから
　0.991　は有効数字3桁です。
　　それを二桁にすると、0.99です。
＞正解は、1.0のようです。これはこれで納得いくのですが、
　納得してはいけません。(笑)

しかし、
＞内容は化学の計算問題からです（計算結果の最後の処理のところです）。
　だと状況はまったく変わります。
　￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣

　それまでの計算過程で科学的記数法( http://ja.wikipedia.org/wiki/%E6%8C%87%E6%95%B0% … )を使用してこなかったことに起因しています。

　化学や物理の計算をするときには、計算過程できちんと科学的記数法をして有効数字を明確にして無駄な計算、不必要な計算をなくさないようにしないと意味ありません。

　⇒有効数字 - Wikipedia( http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9% … )

この回答へのお礼

早速のご丁寧なご回答ありがとうございました。
ぜひ参考にさせて頂きます。

尚、
本題は、元々は、ある書籍上に記載の（うまく入力記入できず恐縮ですが）

1.0×10^-10÷（1.0×10^-5＋1.0×10^-3)≒1.0×10^-7(mol/l)（有効数字2桁のコメントあり）

という式から、私が疑問を持ち、色々調べ考えた結果、提示してみたものです。
ご参考まで

お礼日時：2014/06/15 17:38