会社の社内教育の一環で「推定と検定」「実験計画法」「回帰分析」などの勉強を行いました。
最後に、これらの手法を用いて課題を提出するのですが。
講師の方から、有効数字の件で質問され返答に困っています。
回答の内容によっては、落第となってしまいますので。
お力を貸して頂けると助かります。
もともとのテーマを簡単に説明すると。
ある作業をAとB2つの方法を使って行い、時間測定を行いました。
両方の母平均に差があるかどうかを危険率5%で検定する。
といったものです。
夫々の方法のデータは、以下のようになります。
A:17.2617.1316.4916.5116.47
B:17.116.4816.5116.5216.44
そこで、等分散性の検討(母分散の検定)を求めた、私の回答は以下になります。
【仮説】 H0:σA2 =σB2 , σA2 ≠σB2
【統計量】
SA=0.61 , SB=0.3
VA=0.1525, VB=0.075
F0=2.033
F(4,4 ; 0.025) = 9.60
【判定】F0 < F = 1.9918 < 9.60 よって、危険率5%で有意でない。
つまり、H0は棄却されず、両方の分散に差があるとはいえない。
と回答したら、講師の方から以下のような返答が来ました。
Aの統計量を計算しました。
ΣxA=17.26+17.13+16.49+16.51+16.47=83.86
ΣxA2=17.262+17.132+16.492+16.512+16.472=1407.1056
SA=ΣxA2-(ΣxA)2/n=1407.1056-83.862÷5=0.60568
丸めを行っても SA=0.6057 です。
ここまで見て、以後は見ていませんが、元データか公式、計算、、、どこかでを誤っていませんか?
SA=0.61 ではなくて、使用した式(できれば、計算途中)を書いて下さい。
ということなので、こちらも途中の計算式を入れて回答したのですが。
SA=(χσn)2×n=(0.348)2×5=0.60552
講師の方のおっしゃるSA=0.6057になりませんでした。
ちなみに、こちらはCASIOのfx-350MSという関数電卓で求めたものです。
結局、最初の回答も、後の回答も間違っているわけではなく、小数点以下の数字の扱いなのだと思うのですが、さらに以下のような返答が来ました。
5つのデータだと手間がかかりますので、次の2つのデータで良いです。有効数字に留意して、平方和を出してください。
17.26 16.49
その質問に関しての回答は
17.26 16.49 の平方和は0.29645 となります。
と回答しました。
さらに、講師の方からの返答が・・・。
平方和の有効数字を5桁とした理由を説明して下さい。
( これで最後にしたいので、何とか納得のいく解答をお願いします。)
といった内容のものでした。
ここで納得のいく回答を出さないと、落第となってしまいそうです。
忙しい仕事の合間を縫っての講習会参加や、つどの課題提出が無駄になってしまいます。
他にも、せっかくなのできちんと理解しておきたいという事もあります。
どうか、良い回答をお願いいたします。
No.2ベストアンサー
- 回答日時:
物の個数など、整数のみを扱う場合は有効数字を意識しなくて良い場合もありますが、連続的な値を取るデータの場合、そこには必ず測定の方法、道具、機器による精度の限界から、測定誤差が生じます。
ですので、測定に基づくデータの場合、それはどの程度の精度で測定したものか、という情報が必要になります。
精度の表示については様々な方法がありますが、通常は、表示以下の桁について四捨五入されているものと考えます。
この場合、例えばxが10cmと言った場合と、10.00cmと言った場合では意味合いが違い、
前者は 9.5 ≦ x < 10.5 つまり10±0.5cmを指し、
後者は 9.995 ≦ x < 10.005 つまり10±0.005cmを表します。
さて、問題の17.26, 16.49の平方和では、前者をA1、後者をA2としたとき、
17.255 ≦ A1 < 17.265
16.485 ≦ A2 < 16.495
となり、その平方和Sは、
S = {A1-(A1+A2)/2}^2+{A2-(A1+A2)/2}^2
= {(A1-A2)/2}^2+{(A2-A1)/2}^2
で、A1-A2 と A2-A1は絶対値が等しいため、結局は、
= 2・{(A1-A2)/2}^2
となります。
この時、A1-A2 が最小、最大となる場合をそれぞれ考えると、
17.255-16.495 = 0.76 < A1-A2 < 17.265-16.485 = 0.78
なので、
2・(0.76/2)^2 < S < 2・(0.78/2)^2
2・0.38^2 < S < 2・0.39^2
2・0.1444 < S < 2・0.1521
0.2888 < S < 0.3042
が、実際に取り得る範囲ということになります。
ここで、上位2桁目くらいまではともかく、それ以降の桁にほとんど意味がないということがお分かりいただけるでしょうか(0.30±0.0112)。
むしろ、不必要に細かい桁数を残したままにしておくことで、のちの計算において誤差の拡大をもたらしてしまうことさえあります。
このような理由から、与えられたデータに基づいて計算した結果はそのまま用いず、有効数字に合わせて丸めることがしばしば行われます。
具体的には、加法減法が行われた場合には、有効数字が上の桁に合わせ、
ex) 11.11+0.111 = 11.221 ≒ 11.22 (11.11に合わせる:小数第二位)
∵11.105+0.1105 ≦ 11.11+0.111 < 11.115+0.1115
11.2155 ≦ 11.11+0.111 < 11.2265
(従って、ほぼ11.22といえるが(±0.0065)、それ以降はほとんど無意味)
乗法除法が行われた場合には、有効数字を上から数えた桁数が少ない方に合わせます。
ex) 11.11×0.111 = 1.23321 ≒ 1.23 (0.111に合わせる:上位三桁)
∵11.105×0.1105 ≦ 11.11×0.111 < 11.115×0.1115
1.2271025 ≦ 11.11×0.111 < 1.2393225
(従って、ほぼ1.23といえるが(±0.0093225)、それ以降はほとんど無意味)
計算が複雑な場合は、途中でいちいち丸めると誤差が広がる恐れがあるので、いったん数値通りに計算し、途中で最も少なかった桁数に合わせて最後に丸めます。
途中経過で丸めが必要な場合は、最終的に必要な桁より一桁多めに有効数字をとり、最後に必要な桁で丸め直すことで誤差を抑えます。
回答ありがとうございました。
こちらの例題以外の例を挙げていただいたことで、疑問に思っていた箇所が良く分かりました。
ありがとうございます。
No.3
- 回答日時:
有効数字による計算ルールは、便宜的なものです。
No.1 に書いたように丸めたからといって、
計算結果の誤差が有効数字末位±1以内だと
保証される訳ではありません。
単に規約として、丸め方の統一ルールが
決められているというだけのことです。
それに従うと、質問の二数の例では…
17.26 と 16.49 の和が 33.75。
このとき、有効数字は、加減ルールを使って、
二数共通の小数第2位までとする。
二数の平均は、これを2で割って、16.88。
このとき、除数2は誤差を含まないから、
有効数字は、乗除ルールを使って、
33.75の方の4桁に合わせる。
二数から、それぞれ平均を引いて、
偏差は、+0.38 と -0.38。 ←(*)
このとき、有効数字は、加減ルールを使って、
二数と平均とに共通の小数第2位までとする。
偏差を二乗して、0.14 と 0.14。
このとき、有効数字は、乗除ルールを使って、
2桁とする。
これらを加えて、偏差二乗和は、0.28。
このとき、有効数字は、加減ルールを使って、
小数第2位までとする。
ポイントは、(*)の箇所で精度が減っていること。
値が近い二数の差を計算すると、
加減ルールの性質から、これが起こります。
途中計算の各時点で丸めを行いながら計算しないと、
(*)が発生していることに気づくことができません。
基礎知識が無い中で、丁寧に答えて頂き本当にありがとうございました。
課題への回答が無事通ると良いのですが。
もし、また質問にあってしまったら、宜しくお願いいたします。
No.1
- 回答日時:
電卓に表示された数字を、そのまま書いたのですか?
それだと、誤差を含む数値の計算が解ってないと
みなされかねませんね。
有効数字を意識した場合、
足し算引き算は、有効数字の右端の桁が
左にある方に合わせて丸め、
掛け算割り算は、有効数字の個数が
少ない方に合わせて丸めます。
ご質問の例では、平均と各数の差を求めるときに
小数第2位までに丸めて、有効数字が2桁になりますから、
2乗しても2桁、その和をとって
偏差2乗和は小数第2位までになります。
桁数としては、結局2桁かな。
この回答への補足
早速回答頂き有難うございます。
足し算引き算は、有効数字の右端の桁が
左にある方に合わせて丸め、
掛け算割り算は、有効数字の個数が
少ない方に合わせて丸めます。
とありますが、どちらも同じように思えるのですが・・・。
(どちらも、桁の少ないほう)
例えば
1.12+1.123=2.243 の場合、右端の桁が左にある方、ということは1.12に合わせて丸めるという事でしょうか? つまり回答は2.24
また、以下の場合
1.12×1.123=1.25776は 有効数字の少ないほうなので、やはり1.12となり、回答は1.25となる。
また、例に対しての回答ですが。
これは、途中計算の時点で丸めてしまうのと、最終の答えを丸めるのとでは誤差が出ますが、途中計算で良いのでしょうか?
なんだか、結局自分の出した回答が一番正解に近いような気がするのですが。
すみません。
理解できなくて。
本来、こんなことを仕事で使用するような勉強をしてこなかったので・・・。
さらに詳しい回答をお願いします。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 統計学 確率統計の問題です。 3 2022/04/07 04:39
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 大学・短大 大学 統計学 1 2022/09/14 11:27
- 統計学 t検定について教えてください 2 2023/02/23 16:35
- 統計学 t統計量とF統計量について 9 2023/01/05 14:23
- 統計学 t値の計算方法 1 2022/11/29 18:37
- 統計学 統計学が分かりません!詳しい解説と回答を教えてくださる方お願いいします! 5 2022/08/23 03:10
- 統計学 統計学の問題です よろしくお願いします 区間推定 母集団は正規分布に従い,母分散は σ2 = 112 1 2023/01/31 18:57
- 統計学 統計学の質問【帰無仮説】 W大学のP学部において、自宅通学者の比率にについて調べたい。 P学部から1 8 2023/05/25 23:28
- C言語・C++・C# C言語 3 2022/10/04 15:07
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
数字3桁の組み合わせの何通り...
-
2進数の割り算が分かりません...
-
エクセル:6E-05という表現は?
-
定数が入る場合の有効数字
-
数学の階乗はどんな時に使うの...
-
数値とアルファベットに分ける...
-
電話番号のハイフンの入れ方
-
7で割ると3余り、9で割ると4余...
-
10進数で123を2進数で表わすと...
-
3÷7のあまりは「3」ですか?
-
√2の値はなぜ1.414…になるんで...
-
です。 0.008020 の有効数字は...
-
10進法の数を60進法の数に...
-
7で始まる電話番号?
-
4進数を2進数に
-
エクセル関数で桁数指定し数値...
-
60進法と10進法
-
関数電卓の表示方法を変更したい
-
個数の処理
-
2進法の計算
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
2進数の割り算が分かりません...
-
エクセル:6E-05という表現は?
-
一億引く百が苦手なめい
-
数字3桁の組み合わせの何通り...
-
数値とアルファベットに分ける...
-
数学の階乗はどんな時に使うの...
-
3÷7のあまりは「3」ですか?
-
NUMBER(N,M) としたときの、格...
-
電話番号のハイフンの入れ方
-
60進法と10進法
-
EXCELで10万未満切捨ての...
-
10進数で123を2進数で表わすと...
-
Googleの電卓アプリの有効数字...
-
【場合の数】 2桁の自然数で、2...
-
Excelで数値の丸め
-
エクセル関数で桁数指定し数値...
-
√2の値はなぜ1.414…になるんで...
-
0.120は有効数字何桁ですか? ...
-
10進法の数を60進法の数に...
-
100!
おすすめ情報