有効数字

1000.0は5桁ですか？
500を3桁で表せと言われたら500.00でいいでしょうか？？？

No.4 ベストアンサー 回答者： bathbadya 回答日時： 2009/04/15 18:15

500.　（最後に小数点を入れる）

と表記する方法もあるそうな。
でも、見落としちゃうし、鉛筆で書くときについ癖で書く人もいるだろうし、実用的ではないな。

最近では「有効数字」って、表記が一般的のようで、「有効桁数」って言うと年齢がばれてしまうようだ。

No.3 回答者： mindassass 回答日時： 2009/04/15 16:07

有効数字○桁というのは

対象の数字の上から○桁＋１桁を取り出し（以降の桁を０として）
一番下の桁を四捨五入するのが一般的ですね。
５００の場合は５００でＯＫです。
例えば有効数字３桁で考えると
３，１４１５は３．１４です。
ｓｉｎ（π/4）は１，４１です
２＊ｓｉｎ（π/4）なら２×１．４１４２…で２．８３になります。

更に計算結果なら単位記号（…、Ｔ、Ｇ、Ｍ、Ｋ、ｍ、μ、ｐ、ｎ…）
などを使うか
一番上の桁を１の位に持ってきて
例えば１２３４５６７８９の有効数字３桁とする場合
１．２３×１０＾８とする場合もあります。

No.2 回答者： bathbadya 回答日時： 2009/04/13 23:23

学校の宿題か？

50.0×10でもよいかも・・



実際の技術文献では最小測定範囲を併記しますがね・・

たとえば、
5.00×100としても、最小分解能力が0.01×100と0.05×100では意味が違う。

昔は10回測定してその平均を取れば、有効桁数が１桁増えると言う考え方もあった。

この回答へのお礼

（・０・。） ほっほ―――ッッッ

お礼日時：2009/04/13 23:29

No.1 回答者： bathbadya 回答日時： 2009/04/13 22:58

有効桁数だな。

＞500を3桁で表せと言われたら
5.00×100

この回答へのお礼

なるほどー
そんな技が。。

お礼日時：2009/04/13 23:04