有効数字とは何なのでしょうか?

例えば、有効数字二ケタのとき、0.7は0.70になるのに、2.401は2.4になるのはどうしてですか?

このQ&Aに関連する最新のQ&A

A 回答 (2件)

有効数字2桁とは上から2つの数字ということです。


先に2.401 の方から説明します。
上から2桁ですから 2.4です。
有効数字が2.4の範囲は2.35から2.45と考えます)

0.7の場合の有効数字2桁で表すと0.70になる
とはいえないと思います。
多数桁ある数字を有効数字2桁で丸める(四捨五入などの処理)
作業が必要な場合があるので、例えば 0.733333 の有効数字1桁は
0.7ですが2桁で表すと0.73になります。
最初の0は位取りの0なので有効数字ではありません。

0.0061111 の有効数字2桁を取ると 0.0061 となります。
61111 の有効数字2桁は 61000です。
うまく説明できませんが、参考URLに詳しい説明があります。

参考URL:http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9% …
    • good
    • 0
この回答へのお礼

回答ありがとうございます。
分かり易くて助かりました。

お礼日時:2009/05/22 17:22

「0ではない数字で最も左にあるものから桁数を数え始める。

」(Wikipediaより)
詳しくはこちらで。
http://ja.wikipedia.org/wiki/%E6%9C%89%E5%8A%B9% …
    • good
    • 0
この回答へのお礼

回答ありがとうございます。
有効数字の意味が分かりました。

お礼日時:2009/05/22 17:19

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!


人気Q&Aランキング