部分空間・直行補空間について

ベクトルや部分空間、直行補空間について勉強しています。
そこである書籍の「主成分分析」という項目に次のような説明がありました。

主成分直行基底Uk = [u1,...,uk] (u1,...,uk：ベクトル)によって張られた部分空間
への射影子はP = UkUk '　として表され、それに対する直行補空間への射影子は
P⊥ = I - P　（おそらくIは単位行列だと思います。）となる。直行補空間への射影成分
の距離d⊥は、
　　d⊥^2 = ||P⊥x||^2
= ||(I - UkUk ' )x||^2
= x'(I - UkUk ' )' (I - UkUk ')x
= x'(I - UkUk ')x　　　　　　　　　　（^2は2乗です。）
上記の記述で調べてもよくわからなかった部分が幾つかありました。

１．部分空間への射影子というものがよくわかりません。また、射影子P = UkUk 'とありますが、
　この「'](ダッシュ）が何を表しているのかわかりません。
２．直行補空間への射影成分の距離d⊥^2の式もなぜこのようになるのかがわかりません。
（記号||x||はノルムだということはわかりました。）

以上です。いろいろと検索してはみたのですが、お恥ずかしながら理解まで至りませんでしたので
質問させていただきました。お願いします。

No.3 ベストアンサー 回答者： alice_44 回答日時： 2011/10/22 19:09

Uk’ は Uk の転置でしょうね。

Uk が n 行 k 列なら、Uk Uk' は n 次正方となって、次数も ok です。
「射影子」というのは、よく解かりませんね。
私の知っている用語では、PP = P となる行列 P を「射影行列」といい、
射影行列を表現行列に持つ線形変換を「射影変換」または「射影」といいます。
「行列 P は、Ker P に沿う Span P への射影を表す」などと表現します。
このように、射影は「～に沿う～への」と書いてひとつに決まるもので、
像となる部分空間だけ指定しても、沿う部分空間を指定しなければ、
一意には決まりません。
Uk Uk' なら { u1, …, uk } が張る部分空間への直交射影になっていますが、
「直交射影子」とは書いてありませんでしたか？
部分空間 W への直交射影とは、W の直交補空間に沿う W への射影という意味です。

この回答へのお礼

ありがとうございます。用語の意味などわからなかった部分が
理解できました。

お礼日時：2011/10/23 12:33

No.2 回答者： hrsmmhr 回答日時： 2011/10/21 15:15

まず、ダッシュは転置です

一方の射影子だけでは次数が合わなくなりますので、Ukには０ベクトルでも何個か追加するんじゃなかったかと記憶してますが…

直交補空間の距離がそうなるのは、分かりやすく言えば三平方の定理と同じなんですが、多分ピンとは来ないかもしれません
(部分空間を一次元、補空間も一次元、全体を二次元で考えたりすると分かるかも)
他のうまい説明はできそうにないです

この回答へのお礼

イメージの例を教えて頂き、ありがとうございます。
転置も理解できました。

お礼日時：2011/10/23 12:35

No.1 回答者： Tacosan 回答日時： 2011/10/21 15:11

1. 「射影」はわかりますか? ' は転置でしょうがその書籍をくまなく探せば見つかると思いますよ.

2. 単なる計算です. どこが分からないのでしょうか?

ちなみに「直行」じゃないからね.

この回答へのお礼

直交でしたね。ご指摘ありがとうございます。計算は
理解できるように頑張ってみます。

お礼日時：2011/10/23 12:34