有効数字について

最小二乗法の計算をするに当たって有効数字を考えています。もしx=5.00という値が得られたとすると、x^2を考えるとき、やはり5.00×5.00=25.0(3桁)とすべきなのでしょうか？というのも、他のx^2の値が小数点以下第2位まで得られているので、それらを足し算すると小数点以下が第1位までとなってしまうのです。
知識不足なもので恐縮ですがよろしくお願いします。

No.2 ベストアンサー 回答者： sanori 回答日時： 2008/07/11 12:26

こんにちは。

たとえば、
５．００±３％　（数値では、５．００±０．１５）
であるとき、
２乗すれば、誤差の割合は２倍になり、
２５．０±６％　（数値では、２５．０±１．５）
となります。
数値で言えば、母体の数字は５倍なのに、誤差は１０倍になるということです。

よって、２乗したとき、有効数字は当初と同じ３桁として構いません。
データの個数が十分であれば、３桁以上の細かい数字で最小二乗法の計算を行っても、３桁だけで計算を行っても、結果はほとんど変わりません。（同じと言ってもよいです。）

なお、最小二乗法の結果、出てきた数字については、３桁以上の有効数字で考えることができます。
たとえば、データが全部整数であっても、最小二乗法で得られた切片の値の小数点以下の数字には意味があります。

この回答へのお礼

丁寧な解説をどうも有り難うございました。

お礼日時：2008/07/12 17:32

No.1 回答者： c80s3xxx 回答日時： 2008/07/11 10:24

最小二乗法で計算するときは，計算できる限り桁をいっぱいに使って計算するべきでしょう．

さらに，最終結果については，有効数字でなく，「信頼区間」で評価すべきです．

この回答へのお礼

信頼区間についても勉強してきちんと評価できるようにしたいと思います。有り難うございました。

お礼日時：2008/07/12 17:34