dポイントプレゼントキャンペーン実施中!

有効数字と標準偏差の長所と短所を教えてください。また、どういう時にどちらを使った方が良いのかも教えてくれませんか??よろしくお願いします。

A 回答 (3件)

長所も短所もないです。

結果は同じようなものですから。
値がどのくらい信頼できるか.という指標に「重み」というものがあります。
有効桁の逆数
標準偏差の逆数
として.結果的に数値を求めます。

ただ.計算方法が両者で異なります。そのときに「何に使うか」で計算方法が変わります。手計算の場合には.前者が有利ですが.数学的な正確さというか数値の連続性というかが問題になるときには.後者が有利です。今の時代コンピューターによる数値演算が主流ですから.2進方の桁落ち(0.1は無限小数です)を考慮すると.前者は10進演算が必要であり.後者は2進演算がそのまま使えますから.コンピューターにとっては.後者が楽です。
それから.前者は2通りの方法があります。ひとつは学校数学で学ぶ方法であり.もうひとつはJIS (番号忘却)法です。
2.551や2.552をを二桁に丸める場合に.3桁目を切り捨てるか.切り上げるかのもんだいです。こうなると10進演算の世界でコンピューターが最も苦手とする分野になります。
    • good
    • 0
この回答へのお礼

どうもありがとうございました。

お礼日時:2004/06/07 20:03

おそらく,平均値の桁数と標準偏差の桁数のことを知りたいのではないかと思うのですが,どうなんでしょうか.


そうでないと,#1さんの回答どうりです.
    • good
    • 0

全然関係ないものを比べる事は出来ません。

    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!