プロが教えるわが家の防犯対策術!

有効数字の揃え方が分かりません。問題文がそろっていればその揃っている桁数より一つ多く計算して、四捨五入でいいのですか。たとえば、
有効数字2桁に揃えるとすると、4.445=4.5でしょうか、それとも4.4でしょうか。
更に分からないのが、問題文がそろっていないときです。問題集には「多いもの(大きいものではなく)にあわせる」と書いてあります。たとえば、2桁で書かれた箇所が3つ、1桁で書かれた箇所が1つなら、2桁でといつする、と言うことです。でもこの考え方だと1桁の箇所と2桁の箇所が同じ数だけ合ったらどうするのでしょうか。
しかし、先生は「有効数字の低いものに合わせる。箇所の数は関係ない。」と言っていた気がします。上の例なら1桁で書かれた箇所は1つだけだが、低いので1桁で統一する、と言うことです。

かなり混乱して分からなくなっているので、皆さん教えてください。

教えて!goo グレード

A 回答 (2件)

>有効数字2桁に揃えるとすると、4.445=4.5でしょうか、それとも4.4でしょうか。



有効数字が2桁なら3桁目を四捨五入し4桁目は無視しますから、答えは4.4です

そして問題集に書いてある「多いもの」というのは、箇所の多さではなく、桁数の多いものという意味でしょう。つまり、問題文中に2.6と3.55が出てきた場合は3.55の方に合わせましょうということではないでしょうか。
しかしながら、上記の例で言うと2.6は小数第三位が1~9のどの値が不明なのですから、2.6、つまり有効数字2桁にするのが普通です。
    • good
    • 1

四捨五入は必要悪です。


何度もすると誤差が積み重なっていきます。

そこで生の数字のまま計算した上で、一番有効数字の少ない数字の桁数+1の桁だけを見て四捨五入を行います。

例えば1.256×1,35×1.467=2.487・・
なので7を四捨五入して答えは2.49です。

迷いやすいのは2.4449に成ったときです。
9をあげて5にし5を上げて2.45にしたくなるのです。
しかしこの場合2.4450000000以上だけが2,45に成るのです。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

教えて!goo グレード

このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング