中心極限定理の高次元化

一次元シンプルランダムウォークSnはnが十分大きいとき、その確率分布が一次元の正規分布に収束します。
では一般のD次元シンプルランダムウォークSnもnが 十分大きいときにD次元の正規分布に収束するのでしょうか？
ともあれ一般次元のシンプルランダムウォークSnのnが十分大きいときに収束する確率分布をご存知の方は教えてください。

No.1 回答者： Tacosan 回答日時： 2014/04/28 01:49

1次元が理解できているなら, 一般の場合も同じように考えればいいだけでは?

この回答へのお礼

ありがとうございます。
そうは思っているのですが、なかなかうまくいかず…

お礼日時：2014/04/28 10:42

No.2 回答者： stomachman 回答日時： 2014/04/28 23:18

　d次元(d＞1)の場合には、1次元とはだいぶ話が違うでしょ。

　酔っぱらいの位置をd次元ベクトルで表すことにしましょう。仮に、このベクトルの各成分が互いに独立な1次元ランダムウォークになっている、というだけなら「それぞれの次元の成分が正規分布になる」で話はおしまいです。
　しかし、d次元ランダムウォークは、各ステップが「ひとつの成分を1/dの確率で選び、その成分について半々の確率で+1か-1だけ動かす」というプロセスである。従って、ある次元の成分だけを見ると、「(d-1)/dの確率で0, 1/(2d)の確率で+1, 1/(2d)の確率で-1だけ動かす」ということになる。しかも、この成分の動きが0である場合には必ずどれかの成分ひとつだけの動きが0でない。この成分の動きが0でない場合には他のどの成分の動きも0である。つまり、成分同士が互いに独立ではない。
　このため、d>1の場合はとても難しくなる。そもそも収束するんだっけかな？

No.3 ベストアンサー 回答者： ramayana 回答日時： 2014/04/29 12:08

d 次元正規分布に収束すると思います。

誤解がないように、問題を次のように定式化します。

(1)　自然数 k に対して、X[k] を、次の分布に従う d 次元確率ベクトルとする。

1 ≦ i ≦ d なる各 i に対して
　　X[k] の第 i 成分が 1 で、他の成分が 0 の確率 = 1/(2d)
　　X[k] の第 i 成分が -1 で、他の成分が 0 の確率 = 1/(2d)
　　他の場合の確率 = 0

(2)　無限列 X[1]、X[2]、・・・は、独立。

(3)　s[n] = X[1] + X[2] + ・・・ + X[n]

すると、次のことが分かります。

(4)　E(X[k]) = 0
　　　（E( ) は期待値を表す。 右辺は d 次元 0 ベクトル。）

(5)　V(X[k]) = (1/d)I
　　　（V( ) は共分散行列を表す。I は d 次単位行列。）

(6)　|X[k,1]|^3 + |X[k,2]|^3 +・・・+ |X[k,d]|^3 = 1
　　　（X[k] の第 i 成分を X[k,i] と記した。）

よって、下の中心極限定理により、 n →∞のとき、s[n]×(d/n)^0.5　の分布は、d次元標準正規分布に収束します。

*******
（中心極限定理）

X[1]、X[2]、・・・ を、 d 次元確率ベクトルの独立な無限列とする。また、次の (1) から (4) が満たされるとする。

(1)　E(X[k]) = 0
　　　（E( ) は期待値を表す。 右辺は d 次元 0 ベクトル。）

(2)　V(X[k]) = σ^2I
　　　（V( ) は共分散行列を表す。σは正数。 I は d 次単位行列。）

(3)　|X[k,1]|^3 + |X[k,2]|^3 +・・・+ |X[k,d]|^3 は、有限な期待値を持つ。
　　　（X[k] の第 i 成分を X[k,i] と記した。）

(4)　(3) の期待値を c[k] とするとき、
　　lim[n →∞](1/n^3)(c[1] + c[2] + ・・・ + c[n])^2 = 0

すると、(1/(σn^0.5))Σ[k=1 to n]X[k] は、n →∞のとき、d 次元標準正規分布（密度が(2π)^(d/2)exp(-0.5(x[1]^2 + x[2]^2 +・・・+ x[d]^2)) の分布）に従う確率変数に法則収束する。

（証明は、1次元の場合の中心極限定理の証明をほぼなぞっていけば、難しくない。）

No.4 回答者： quaestio 回答日時： 2014/04/29 18:48

積率母関数（特性関数）を使うのが簡単ですね。

厳密ではありませんが、簡単に説明してみます。

一ステップ毎の移動量をX[1],X[2],……,X[n]とします。
各X[k]はiidなd次元確率変数ベクトルで、平均ベクトルが0、分散共分散行列は(1/d)Iです。
S[n] = Σ_k X[k]
とおきSn/√nのn→∞としたときの分布がどうなるかを考えます。

まずは、θ=(θ1,θ2,……,θd)とし、θX[k]/√nの分布から始めます。
期待値は
E[θX[k]/√n] = θE[X[k]]/√n = 0
分散は
V[θX[k]/√n] = E[(θX[k])^2/n] = Σ_k θ[k]^2/(nd)
です。
θX[1]/√n,θX[2]/√n,……,θX[n]/√nはiidな確率変数ですので、中心極限定理により、
θS[n]/√n = Σ_k θX[k]/√n
はn→∞のとき平均が0、分散がΣ_k θ[k]^2/dの正規分布になります。

さて、θS[n]/√nがn→∞のとき正規分布になるということは、exp(θS[n]/√n)は対数正規分布になるということです。
この対数正規分布の期待値は
exp(Σ_k θ[k]^2/(2d))
ですので、E[exp(θS[n]/√n)]の期待値はn→∞のときexp(Σ_k θ[k]^2/(2d))になります。

実はこのE[exp(θS[n]/√n)]はS[n]/√nの積率母関数そのもので、一方exp(Σ_k θ[k]^2/(2d))は平均ベクトルが0、分散共分散行列が(1/d)Iの多変量正規分布の積率母関数なのです。
積率母関数は分布と1対1の対応があることから、S[n]/√nの分布はn→∞のとき平均ベクトルが0、分散共分散行列が(1/d)Iの多変量正規分布になるということがいえます。

一般的にも分散共分散行列がある限り、多変量中心極限定理は成り立ちます。
厳密な証明は、確率論や数理統計学の本に載っていると思いますので、そちらで確認してください。

No.5 回答者： stomachman 回答日時： 2014/04/29 19:02

ANo.2です。

どうも勘違いしたみたいです。ANo.2はナシ。