
A 回答 (4件)
- 最新から表示
- 回答順に表示
No.4
- 回答日時:
有効数字ということは、データをとってきた際のデータということになりますよね?
自然科学なのか、工学分野なのか、統計なのかで異なりますが、一般的に用いられるのは概ね3~5桁です。(精密測定では8~10桁くらいのものもありますが)
分数表記ということは、統計の分野でしょうか?機器でデータを取得すれば、そのような半端な数値は表示されなく、計算ということなので、4~5桁ほどが妥当です。
詳しくは、誤差関数という考え方から決定されます。
ぜひ調べてください。
No.3
- 回答日時:
有効数字とは、ある桁数を有する数字の何桁までが信頼できるのか、と言うことです。
たとえば、1%程度の信頼度しか無い数字1000と1001の差分はいくらか、と言う問は愚問です。
1000は1010~990の範囲にあるし、1001は1011~991の範囲にあるからです。
統計を取る上では、信頼できる桁数(信頼度1%の場合は3桁)+1(以上)で扱うことが肝要です。
上記の例では4桁で統計処理をし、結果に「信頼度1%における値」を付記するのが一般的です。
なお、「1000」は4桁ですが、「999」では3桁になります。
末尾±1は共に±0.1%なので…ややこしい…
無理数などの丸めは、統計で扱う他の数字の桁数にあわせた四捨五入値で充分です。
No.2
- 回答日時:
有効数字というのは、必ず何桁の有効数字か決めないといけません。
1桁の有効数字に丸めるなら 30 だし、
2桁の有効数字に丸めるなら 28 だし、
3桁の有効数字に丸めるなら 28.2 だし、
4桁の有効数字に丸めるなら 28.17 だし、
5桁の有効数字に丸めるなら 28.167 だし、
以下同様
No.1
- 回答日時:
私の記憶では
有効数字:a×10^n
※0<a<10
※nは累乗のこと
だった気がします。
質問の小数を有効数字に直すと
[ 28.16666…] ≒ [ 2.816×10^1 ](10の1乗) だと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
光学定数について
-
1/3オクターブバンドについて質...
-
Igorの使い方について
-
FFTのDC成分って、なんで大きく...
-
複素フーリエ級数展開からフー...
-
時間を100進法であらわしたい。
-
10,000百万円っていくらですか?
-
穴あけのあけってどんな漢字で...
-
穴が開く? 空く? 明く?
-
1寸・1尺・1間って何センチ?
-
成形品でいうミスマッチとは?
-
t・costってラプラス変換したら...
-
設計洪水量について
-
テーパーピンの抜き方について
-
y=logX+1 の微分教えください ...
-
「強度が弱い」という文はおか...
-
SUS304
-
「強度」は高い?強い?
-
ダブルナットとスプリングワッ...
-
ぼくのアルバイト先は銀行に振...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報