「ブロック機能」のリニューアルについて

ルートの有効数字ってどこで切ればいいんでしょうか?また計算途中だったら、1桁多くとったほうが良いのでしょうか?

教えて!goo グレード

A 回答 (2件)

問題文に有効数字が書かれていない場合には、


計算に必要なほかの数字の桁数に合わせてください。

ひとつだけ、有効数字が多すぎても意味がありませんから。

計算途中は桁数を一つ多くします。
たとえば、答えの有効数字が2桁の場合、
初めから2桁にした場合と、
3桁で計算した場合とでは、

1.44 * 1.74 = 2.5056 -> 2.5
1.4 * 1.7 = 2.38 -> 2.4

のように計算結果に差が出てしまいます。
    • good
    • 1
この回答へのお礼

なるほど、
有効数字の性質を考えればわかることでしたね、
すいませんでした。

お礼日時:2005/04/15 21:05

問題文に出ている数字が必要とされる精度です。


計算中は、一桁多めに有効数字をとっておきます。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

教えて!goo グレード

人気Q&Aランキング