最尤推定量の期待値

以下に挙げました問題は、最尤推定量の期待値を求めて、不偏性が成り立たないことを示すことが趣旨だと思うのですが、最尤推定量3/{2*(X_1^2 , X_2^2 ,X_3^2)}まで出した後、分母に確率変数が入っているために期待値の出し方が分からなくなってしまいました。どなたかお知恵を貸して頂けませんでしょうか。

問題
母数¥theta(>0)を含んだ密度関数f(x)=√(¥theta / ¥pi)*exp(-¥theta*x^2)
（下手な書き方ですみません。一応平均が０、分散が(1/2)*¥thetaの正規分布ということになると思います。）
に於いて、無作為標本X_1,X_2,X_3が与えられた時の¥thetaの最尤推定量をTとする。この時Tの期待値を求めよ。

No.2 ベストアンサー 回答者： quaestio 回答日時： 2011/12/12 21:14

> しかもこれは自由度が３なんですね。

自由度が一つ減るのか減らないのかが未だによく分かりません…。

X_iは平均が0の正規分布に従うので、2θ(X_i - 0)^2は自由度1のカイ二乗分布に従います。
カイ二乗分布に従う確率変数の和もカイ二乗分布に従い、自由度は足した数だけ増えます。
今回の場合だとX_1～X_3の3つなので自由度が3になります。

ここでもしX_iの平均が分からない場合、標本平均m=ΣX_i/nで代用せざるを得ません。
しかし、この場合2θ(X_i - m)^2はもはや自由度1のカイ二乗分布には従いません。
2θΣ(X_i - m)^2としてやっと自由度2のカイ二乗分布になるのです。

自由度が1だけ減る理由がされていないではないかと思われるでしょうが、きちんと説明するにはX_1からX_3の同時確率関数から2θΣ(X_i - m)^2の確率密度関数を求めることをしないといけず、これが厄介なのです。
行列や積分の知識（直交行列とかヤコビ行列）がある人に対してならば楽なのですが、そうでなければ少なくとも私は簡単に説明できる自信がありません。

おそらくこういう理由から「平均を推定したために自由度が1減った」という説明が良くされるのでしょう。

この回答へのお礼

平均の推定があるかないかで変わるんですね…。そもそもそれが分かっていませんでした。それをヒントにもう少し詳しく勉強してみたいと思います。
大変ためになりました。重ね重ねお礼申し上げます。

お礼日時：2011/12/14 00:24

No.1 回答者： quaestio 回答日時： 2011/12/11 11:31

> 分散が(1/2)*¥theta

1/(2*¥theta)の書き間違いだとおもいますが、X_iが正規分布に従うことはわかっているのですよね。
ならば、2θΣX_i^2が自由度3のカイ二乗分布に従うこともわかるでしょう。
ということは、自由度3のカイ二乗分布に従う確率変数をY、その確率密度関数をf(y)とすると、求める期待値は
E[3/(2ΣX_i^2)] = E[3θ/(2θΣX_i^2)] = E[3θ/Y] = 3θ∫(1/y) f(y) dy
となりますが、最後の積分はそれほど難しくないはずです。
（自由度1のカイ二乗分布の確率密度関数をうまく使ってください）

この回答へのお礼

＞1/(2*¥theta)の書き間違いだとおもいますが
ご指摘の通りです。失礼しました。

まさかここでカイ二乗分布を使うとは！素晴らしいアイディアですね！カイ二乗分布って表が与えられている時しか使わないのかと思ってました（私が見落としていただけですが…）。本当に勉強になりました。

しかもこれは自由度が３なんですね。自由度が一つ減るのか減らないのかが未だによく分かりません…。

自由度１の場合を使うというのはうまい方法だと思いました。ありがとうございました。

お礼日時：2011/12/12 03:04