有効数字に注意して計算せよ。 2.0 - 1.20 テキストに、答えは有効数字の最も小さい桁数に合わ

有効数字に注意して計算せよ。
2.0 - 1.20

テキストに、答えは有効数字の最も小さい桁数に合わせると書かれていたので。

これは2桁 - 3桁だから、答えが2桁になるかと思って、私は0.80と書いたのですが。

答えは0.8でした。0.8は有効数字1桁ですよね？

質問者からの補足コメント

• すいません解決しました。足し算引き算は最も位取りの大きいものに合わせるんですね(＞＜)

    補足日時：2020/05/09 13:35

No.1 回答者： masterkoto 回答日時： 2020/05/09 13:43

足し算引き算の場合の考え方は以下です

2.0は小数第一位に最大で±１程度の誤差が含まれています（有効数字2桁）＞＞＞正確な値は1.95~2.04999・・・の間にあるいずれかの数字）
同様に1.20は小数第２位に最大で±１程度の誤差が含まれています（有効数字３桁）

ゆえにこれらを単純に引き算した場合
2.0-1.20=0.80には2.0の０がすでに誤差を含んでいますのでその計算結果も小数１位に既に誤差が含まれているということになります
ということは小数２位以下は誤差まみれで意味がないことになります→ゆえに答えとして書くべきは誤差まみれにはなっていない小数1位までということになります
これを踏まえ、
2.0-1.20=0.80と計算
有効数字の中で最も末井が高い2.0に合わせて少数１までを答えとします（0.80を小数2位で四捨五入）
これが高校ルールです（ちなみに　2.０は末井の０が小数1位、1.20は末井の０が小数2位なので　2.0のほうが末井が高いと判断）