有効数字の求め方

会社の社内教育の一環で「推定と検定」「実験計画法」「回帰分析」などの勉強を行いました。
最後に、これらの手法を用いて課題を提出するのですが。
講師の方から、有効数字の件で質問され返答に困っています。
回答の内容によっては、落第となってしまいますので。
お力を貸して頂けると助かります。

もともとのテーマを簡単に説明すると。
ある作業をＡとＢ2つの方法を使って行い、時間測定を行いました。
両方の母平均に差があるかどうかを危険率５％で検定する。
といったものです。

夫々の方法のデータは、以下のようになります。

Ａ：17.2617.1316.4916.5116.47
Ｂ：17.116.4816.5116.5216.44

そこで、等分散性の検討（母分散の検定）を求めた、私の回答は以下になります。
　　【仮説】　　H0：σA2 ＝σB2　， σA2 ≠σB2
　　【統計量】
　　SA＝0.61 ， SB＝0.3
　　VA＝0.1525， VB＝0.075
　　F0＝2.033
　　F（4，4 ； 0.025） ＝ 9.60

　　【判定】F0 ＜ F ＝ 1.9918 ＜ 9.60 よって、危険率５％で有意でない。
　　　　　　つまり、H0は棄却されず、両方の分散に差があるとはいえない。

と回答したら、講師の方から以下のような返答が来ました。
　　Ａの統計量を計算しました。
　　ΣｘＡ＝１７．２６＋１７．１３＋１６．４９＋１６．５１＋１６．４７＝８３．８６
　　ΣｘＡ２＝１７．２６２＋１７．１３２＋１６．４９２＋１６．５１２＋１６．４７２＝１４０７．１０５６
　　ＳＡ＝ΣｘＡ２－（ΣｘＡ）２／ｎ＝１４０７．１０５６－８３．８６２÷５＝０．６０５６８
　　丸めを行っても　ＳＡ＝０．６０５７　です。
　　ここまで見て、以後は見ていませんが、元データか公式、計算、、、どこかでを誤っていませんか？
　　ＳＡ＝０．６１　ではなくて、使用した式（できれば、計算途中）を書いて下さい。

ということなので、こちらも途中の計算式を入れて回答したのですが。
　　SA＝（χσｎ）2×ｎ＝（0.348)2×5＝0.60552
講師の方のおっしゃるＳＡ＝０．６０５７になりませんでした。
ちなみに、こちらはCASIOのｆｘ－３５０MSという関数電卓で求めたものです。

結局、最初の回答も、後の回答も間違っているわけではなく、小数点以下の数字の扱いなのだと思うのですが、さらに以下のような返答が来ました。

　5つのデータだと手間がかかりますので、次の2つのデータで良いです。有効数字に留意して、平方和を出してください。
　　１７．２６　　１６．４９

その質問に関しての回答は
　　１７．２６　　１６．４９　の平方和は０．２９６４５　となります。

と回答しました。

さらに、講師の方からの返答が・・・。
平方和の有効数字を５桁とした理由を説明して下さい。
（　これで最後にしたいので、何とか納得のいく解答をお願いします。）

といった内容のものでした。

ここで納得のいく回答を出さないと、落第となってしまいそうです。
忙しい仕事の合間を縫っての講習会参加や、つどの課題提出が無駄になってしまいます。
他にも、せっかくなのできちんと理解しておきたいという事もあります。
どうか、良い回答をお願いいたします。

No.2 ベストアンサー 回答者： Segenswind 回答日時： 2011/03/22 18:01

物の個数など、整数のみを扱う場合は有効数字を意識しなくて良い場合もありますが、連続的な値を取るデータの場合、そこには必ず測定の方法、道具、機器による精度の限界から、測定誤差が生じます。

ですので、測定に基づくデータの場合、それはどの程度の精度で測定したものか、という情報が必要になります。

精度の表示については様々な方法がありますが、通常は、表示以下の桁について四捨五入されているものと考えます。
この場合、例えばxが10cmと言った場合と、10.00cmと言った場合では意味合いが違い、
前者は　9.5 ≦ x ＜ 10.5　つまり10±0.5cmを指し、
後者は　9.995 ≦ x ＜ 10.005　つまり10±0.005cmを表します。

さて、問題の17.26, 16.49の平方和では、前者をA1、後者をA2としたとき、
　　17.255 ≦ A1 ＜ 17.265
　　16.485 ≦ A2 ＜ 16.495
となり、その平方和Sは、
　S ＝ {A1－(A1＋A2)/2}^2＋{A2－(A1＋A2)/2}^2
　　＝ {(A1－A2)/2}^2＋{(A2－A1)/2}^2
で、A1－A2 と A2－A1は絶対値が等しいため、結局は、
　　＝ 2・{(A1－A2)/2}^2
となります。
この時、A1－A2　が最小、最大となる場合をそれぞれ考えると、
　　17.255－16.495 ＝ 0.76 ＜ A1－A2 ＜ 17.265－16.485 ＝ 0.78
なので、
　　2・(0.76/2)^2 ＜ S ＜ 2・(0.78/2)^2
　　2・0.38^2 ＜ S ＜ 2・0.39^2
　　2・0.1444 ＜ S ＜ 2・0.1521
　　0.2888 ＜ S ＜ 0.3042
が、実際に取り得る範囲ということになります。
ここで、上位2桁目くらいまではともかく、それ以降の桁にほとんど意味がないということがお分かりいただけるでしょうか（0.30±0.0112）。
むしろ、不必要に細かい桁数を残したままにしておくことで、のちの計算において誤差の拡大をもたらしてしまうことさえあります。

このような理由から、与えられたデータに基づいて計算した結果はそのまま用いず、有効数字に合わせて丸めることがしばしば行われます。
具体的には、加法減法が行われた場合には、有効数字が上の桁に合わせ、
　　ex) 11.11＋0.111 ＝ 11.221 ≒ 11.22　（11.11に合わせる：小数第二位）
　　　∵11.105＋0.1105 ≦ 11.11＋0.111 ＜ 11.115＋0.1115
　　　　11.2155 ≦ 11.11＋0.111 ＜ 11.2265
　　　（従って、ほぼ11.22といえるが（±0.0065）、それ以降はほとんど無意味）
乗法除法が行われた場合には、有効数字を上から数えた桁数が少ない方に合わせます。
　　ex) 11.11×0.111 ＝ 1.23321 ≒ 1.23　（0.111に合わせる：上位三桁）
　　∵11.105×0.1105 ≦ 11.11×0.111 ＜ 11.115×0.1115
　　　　1.2271025 ≦ 11.11×0.111 ＜ 1.2393225
　　　（従って、ほぼ1.23といえるが（±0.0093225）、それ以降はほとんど無意味）
計算が複雑な場合は、途中でいちいち丸めると誤差が広がる恐れがあるので、いったん数値通りに計算し、途中で最も少なかった桁数に合わせて最後に丸めます。
途中経過で丸めが必要な場合は、最終的に必要な桁より一桁多めに有効数字をとり、最後に必要な桁で丸め直すことで誤差を抑えます。

この回答へのお礼

回答ありがとうございました。
こちらの例題以外の例を挙げていただいたことで、疑問に思っていた箇所が良く分かりました。
ありがとうございます。

お礼日時：2011/03/23 14:10

No.3 回答者： alice_44 回答日時： 2011/03/22 22:16

有効数字による計算ルールは、便宜的なものです。

No.1 に書いたように丸めたからといって、
計算結果の誤差が有効数字末位±１以内だと
保証される訳ではありません。
単に規約として、丸め方の統一ルールが
決められているというだけのことです。

それに従うと、質問の二数の例では…

１７．２６ と １６．４９ の和が ３３．７５。
このとき、有効数字は、加減ルールを使って、
二数共通の小数第２位までとする。

二数の平均は、これを２で割って、１６．８８。
このとき、除数２は誤差を含まないから、
有効数字は、乗除ルールを使って、
３３．７５の方の４桁に合わせる。

二数から、それぞれ平均を引いて、
偏差は、＋０．３８ と －０．３８。　　　　←(＊)
このとき、有効数字は、加減ルールを使って、
二数と平均とに共通の小数第２位までとする。

偏差を二乗して、０．１４ と ０．１４。
このとき、有効数字は、乗除ルールを使って、
２桁とする。

これらを加えて、偏差二乗和は、０．２８。
このとき、有効数字は、加減ルールを使って、
小数第２位までとする。

ポイントは、(＊)の箇所で精度が減っていること。
値が近い二数の差を計算すると、
加減ルールの性質から、これが起こります。

途中計算の各時点で丸めを行いながら計算しないと、
(＊)が発生していることに気づくことができません。

この回答へのお礼

基礎知識が無い中で、丁寧に答えて頂き本当にありがとうございました。
課題への回答が無事通ると良いのですが。
もし、また質問にあってしまったら、宜しくお願いいたします。

お礼日時：2011/03/23 14:08

No.1 回答者： alice_44 回答日時： 2011/03/22 14:19

電卓に表示された数字を、そのまま書いたのですか？

それだと、誤差を含む数値の計算が解ってないと
みなされかねませんね。

有効数字を意識した場合、
足し算引き算は、有効数字の右端の桁が
左にある方に合わせて丸め、
掛け算割り算は、有効数字の個数が
少ない方に合わせて丸めます。

ご質問の例では、平均と各数の差を求めるときに
小数第２位までに丸めて、有効数字が２桁になりますから、
２乗しても２桁、その和をとって
偏差２乗和は小数第２位までになります。
桁数としては、結局２桁かな。

この回答への補足

早速回答頂き有難うございます。

足し算引き算は、有効数字の右端の桁が
左にある方に合わせて丸め、
掛け算割り算は、有効数字の個数が
少ない方に合わせて丸めます。

とありますが、どちらも同じように思えるのですが・・・。
（どちらも、桁の少ないほう）
例えば
1.12＋1.123＝2.243　の場合、右端の桁が左にある方、ということは1.12に合わせて丸めるという事でしょうか？　つまり回答は2.24
また、以下の場合
1.12×1.123＝1.25776は　有効数字の少ないほうなので、やはり1.12となり、回答は1.25となる。　

また、例に対しての回答ですが。
これは、途中計算の時点で丸めてしまうのと、最終の答えを丸めるのとでは誤差が出ますが、途中計算で良いのでしょうか？
なんだか、結局自分の出した回答が一番正解に近いような気がするのですが。

すみません。
理解できなくて。
本来、こんなことを仕事で使用するような勉強をしてこなかったので・・・。
さらに詳しい回答をお願いします。

補足日時：2011/03/22 15:29