プロが教えるわが家の防犯対策術!

最小二乗法の計算をするに当たって有効数字を考えています。もしx=5.00という値が得られたとすると、x^2を考えるとき、やはり5.00×5.00=25.0(3桁)とすべきなのでしょうか?というのも、他のx^2の値が小数点以下第2位まで得られているので、それらを足し算すると小数点以下が第1位までとなってしまうのです。
知識不足なもので恐縮ですがよろしくお願いします。

教えて!goo グレード

A 回答 (2件)

こんにちは。



たとえば、
5.00±3% (数値では、5.00±0.15)
であるとき、
2乗すれば、誤差の割合は2倍になり、
25.0±6% (数値では、25.0±1.5)
となります。
数値で言えば、母体の数字は5倍なのに、誤差は10倍になるということです。

よって、2乗したとき、有効数字は当初と同じ3桁として構いません。
データの個数が十分であれば、3桁以上の細かい数字で最小二乗法の計算を行っても、3桁だけで計算を行っても、結果はほとんど変わりません。(同じと言ってもよいです。)

なお、最小二乗法の結果、出てきた数字については、3桁以上の有効数字で考えることができます。
たとえば、データが全部整数であっても、最小二乗法で得られた切片の値の小数点以下の数字には意味があります。
    • good
    • 2
この回答へのお礼

丁寧な解説をどうも有り難うございました。

お礼日時:2008/07/12 17:32

最小二乗法で計算するときは,計算できる限り桁をいっぱいに使って計算するべきでしょう.


さらに,最終結果については,有効数字でなく,「信頼区間」で評価すべきです.
    • good
    • 0
この回答へのお礼

信頼区間についても勉強してきちんと評価できるようにしたいと思います。有り難うございました。

お礼日時:2008/07/12 17:34

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

教えて!goo グレード

このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング