有効数字

ルートの有効数字ってどこで切ればいいんでしょうか？また計算途中だったら、1桁多くとったほうが良いのでしょうか？

No.2 ベストアンサー 回答者： sunasearch 回答日時： 2005/04/15 08:15

問題文に有効数字が書かれていない場合には、

計算に必要なほかの数字の桁数に合わせてください。

ひとつだけ、有効数字が多すぎても意味がありませんから。

計算途中は桁数を一つ多くします。
たとえば、答えの有効数字が２桁の場合、
初めから２桁にした場合と、
３桁で計算した場合とでは、

1.44 * 1.74 = 2.5056 -> 2.5
1.4 * 1.7 = 2.38 -> 2.4

のように計算結果に差が出てしまいます。

この回答へのお礼

なるほど、
有効数字の性質を考えればわかることでしたね、
すいませんでした。

お礼日時：2005/04/15 21:05

No.1 回答者： dyna43 回答日時： 2005/04/15 02:50

問題文に出ている数字が必要とされる精度です。

計算中は、一桁多めに有効数字をとっておきます。