有効数字

有効数字とは何なのでしょうか?

例えば、有効数字二ケタのとき、0.7は0.70になるのに、2.401は2.4になるのはどうしてですか?

No.1 回答者： arashi1190 回答日時： 2009/05/22 16:35

「0ではない数字で最も左にあるものから桁数を数え始める。

」（Wikipediaより）
詳しくはこちらで。
http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9% …

この回答へのお礼

回答ありがとうございます。
有効数字の意味が分かりました。

お礼日時：2009/05/22 17:19

No.2 回答者： laputart 回答日時： 2009/05/22 16:47

有効数字２桁とは上から２つの数字ということです。

先に2.401 の方から説明します。
上から２桁ですから　2.4です。
有効数字が2.4の範囲は2.35から2.45と考えます）

0.7の場合の有効数字２桁で表すと0.70になる
とはいえないと思います。
多数桁ある数字を有効数字２桁で丸める（四捨五入などの処理）
作業が必要な場合があるので、例えば　0.733333 の有効数字１桁は
0.7ですが２桁で表すと0.73になります。
最初の0は位取りの0なので有効数字ではありません。

0.0061111 の有効数字２桁を取ると　0.0061 となります。
61111 の有効数字２桁は　61000です。
うまく説明できませんが、参考URLに詳しい説明があります。

参考URL：http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9% …

この回答へのお礼

回答ありがとうございます。
分かり易くて助かりました。

お礼日時：2009/05/22 17:22