
No.2ベストアンサー
- 回答日時:
>理由としては「√22があり有効数字が2桁だから」みたいです
それはあり得ない。
だったら、√2 も √3 も「1」ですか?
有効数字というのは、誤差評価のいい加減な簡易版であり、通常は
「22 とは 21.5~22.49999・・・の小数以下を四捨五入したものだ」
という約束事のもとに行われるべき議論です。
これは一般に「計測値」とか「誤差を持った値」に対して行われるものであり、誤差を仮定しない「数学的処理」の世界では通用しません。
なので「円周率は無限小数」だし、「√22 は無理数」ということになるわけです。
数学の世界では √22 の「22」は「整数」であって誤差を持たないので、「有効数字は2桁」などというのは的外れな議論です。
「テストの点数」はすべて「誤差のない整数値」なので、「有効数字」などが入り込む余地はないでしょう。
No.1
- 回答日時:
有効数字を何桁にするかは、観測データの品質に合わせれば良いです。
例として、10点満点の5点と言うと、5.0点というように小数点以下1桁目を含む2桁までは正確な値でしょう。
5.00すなわち3桁まで正確だとか屁理屈は言えますが、少なくとも平均は小数点以下1桁目を含む2桁まで求めておかないと、その集団の特徴量として好ましいとは言えません。
そこから、分散を求める時は、2乗の値ですので、4桁まで正しいとします。
でも、標準偏差は2桁で良いです。2.345は標準偏差ですので、2.3に丸めれば良いと思います。
しかし、企業の開発現場などでは、それが切り上げた値なのか、切り捨てた値なのか分からないから、有効数字のルールなど無視して値を書いておいてくれ。というような文化があります。あるいは「見え消し」にするとか。
2.345は元の観測値が一つ違えば、2.4になるかもしれない境の値なので、技術者たちは「ばらつきが大きくなるかもしれない」という思いで数字を見ています。
ところで、上から何桁なんてルールはどこでも通じる話ではありません。造船なんかで、そんなことやられたら、ひとたまりもないです。
金属加工などの精度は、100分台とか1000分台とかいうルールが使われます。1000分の1ミリ台、つまりミクロンの単位まで有効だというルールです。
10ミリだろうが、100メートルだろうが、ミクロン単位の桁まで有効な値と考えます。溶接部で数ミリ隙間が空いていたら問題になるからです。
郷に入れば郷に従え、だと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 数学 数学『データの分析』 √22を少数にする際 「4.6904…」だったので 4を四捨五入し0を切り捨て 2 2023/05/23 22:24
- 数学 数学『データの分析』(再質問) √22を少数にする際 「4.6904…」だったので 4を四捨五入し0 3 2023/05/23 23:25
- 数学 数学『データの分析』 √22を少数にする際 「4.6904…」だったので 4を四捨五入し0を切り捨て 5 2023/03/03 12:59
- 小学校 がい数の問題の文章の意味 4 2022/11/21 14:25
- 教育学 エクセルで小数点以下を四捨五入について教えてください。 2 2023/04/05 17:33
- 数学 少数の割り算 8 2022/07/09 08:58
- 数学 右の図で、BCの長さを四捨五入して、 小数第1位まで求めなさい。 図は三角形ABCで、∠Aが50度、 3 2022/07/28 01:17
- 高校 x,yを正の数とする。x,3x+2yを少数第一位で四捨五入すると、それぞれ6,21になるという。yの 1 2023/04/05 23:32
- 高校 高校化学有効数字計算 4 2023/02/26 09:09
- 工学 電気回路の問題の質問 6 2022/05/22 07:20
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
小数第4位まで求めろと言われた...
-
小数1位と小数1位止との違い
-
四捨五入した数の合計が100.0%...
-
Excelで構成比の各要素の合計を...
-
エクセルで3捨4入
-
エクセルで有効桁を指定して丸...
-
アクセスでの演算で少数点第1位...
-
エクセル関数の50円単位の四捨五入
-
五捨五入(偶捨奇入)の数学的...
-
百の位以下をゼロで表したい
-
みなさん身長の小数点は無視し...
-
木の根もとから水平に12メート...
-
「小数点以下第2位までで答えな...
-
利益率の計算などで・・
-
EXCELで「有効3桁で四捨五入」
-
約の範囲は一体どの位からなの...
-
割合(%)を出すとき、小数第...
-
⑸四捨五入して、千の位までのが...
-
Excelで二捨三入したいのですが...
-
小数点第1位切り上げ?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
四捨五入した数の合計が100.0%...
-
約の範囲は一体どの位からなの...
-
小数第4位まで求めろと言われた...
-
小数点第1位切り上げ?
-
「小数点以下第2位までで答えな...
-
Excelで二捨三入したいのですが...
-
エクセル関数の50円単位の四捨五入
-
エクセルで有効桁を指定して丸...
-
割合(%)を出すとき、小数第...
-
何万強とか何万弱というのはど...
-
小数1位と小数1位止との違い
-
Excelで構成比の各要素の合計を...
-
7000g が 6500g になってしま...
-
100枚弱とは何枚のことですか?
-
エクセルでround関数を使わない...
-
割合を%にして全て加えると1...
-
EXCELで「有効3桁で四捨五入」
-
アクセスでの演算で少数点第1位...
-
木の根もとから水平に12メート...
-
⑸四捨五入して、千の位までのが...
おすすめ情報