プロが教えるわが家の防犯対策術!

確率変数Y1,…,Ynは独立で、各Yiの平均と分散が
E[Yi]=a+bxi,V[Yi]=σ^2,i=1,…,n
である直線回帰モデルを考える
(1)制約条件b=0の元でのaの制限最小二乗推定量はどうなるか
(2)制約条件a=0の元でのbの制限最小二乗推定量はどうなるか

A 回答 (2件)

企業で統計を推進する立場の者です。



制限最小二乗推定という言葉は初耳ですが、制約付きの最小二乗推定のことでしょうね。

V(Yi)=σ^2という条件は、残差はxによらず一定、つまり等分散であるということです。(2)の前提となります。

(1) b=0(傾き0)だから回帰線は水平線で、回帰線はxの平均値Yの平均値を通りますから、切片a=E(Yi)です。最初の式でb=0と置いたときに一致し、自明だと思います。

(2) 回帰線(予測値)はY=bxであり、各観測値はそれに誤差が加わったYi=bxi+σです。最小二乗法の方法に沿って、偏差平方和の式を作り、微分して0と置いて解けば良いです。

Σσ^2=Σ(Yi-bxi)^2
=ΣYi^2ー2bΣxiYi+b^2Σxi^2

これをbについて微分して0と置きます。bのどこかで誤差の2乗和が最小になっているハズなので、その極値を見つけるのです。
0-2ΣxiYi+2bΣxi^2=0
移項してbを解きます。

b=ΣxiYi/Σxi^2

単回帰係数の一般式は、b=Sxy/Sxxですが、Sは偏差平方和と言いそれぞれの平均が引かれた値の共変量や平方和です。つまり、回帰線はxの平均とyの平均を通ります。今、それが原点を通るわけだから、原点からの偏差を、言い換えれば平均を引かない生データのままbの一般式に代入した形になっています。
    • good
    • 1

#1です。



(1)について、あんな概念的な解答でなく、数学的手順に沿ってやりたければ、

回帰線はy=aですから、実測値Yiと予測値の偏差は(Yi-a)になります。この2乗和を最小にすればよいです。

Σ(Yi-a)^2=ΣYi^2-2aΣYi+Σa^2

これをaで微分して0とおいて、偏差平方和の極小値を与えるaを解きます。

0-2ΣYi+2Σa=0

今、データ数はn個だから、Σa=na

よって、a=ΣYi/n=E(Yi)
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!