固有値、固有ベクトルの幾何学的な意味

仕事で必要になり、統計学を勉強しています。
その基礎となる代数・幾何を高校時代に勉強しましたが、それからすっかり忘れてしまいました。自分でも考えたり調べましたがピンと来ません。
（理解しやすいので、二次元の）固有値および固有ベクトルの幾何学的な（座標平面上での）意味は何でしょうか？
よろしくお願いします。

No.3 回答者： onakyuu 回答日時： 2005/03/03 18:14

行列は空間上の１次変換の表現だといえます。

１次変換というのは回転、引き伸ばし、反転など
のことで、固有値が複素数の場合は回転＋拡大に
対応しており、回転が固有値の虚数部できまり
拡大率が実数部で決まります。
固有値が実数ではその固有ベクトル方向のその
固有値の分だけ引き伸ばすことになります。

固有値・固有ベクトルの幾何学的意味について
は西村和雄著の「経済数学早わかり」を読まれ
るとよいと思います。

No.2 回答者： tenro 回答日時： 2005/03/02 21:29

Aを2×2の行列とします。

このとき、
　　Ax = λx
を満たすゼロでないベクトルxと数λが存在したとき、xを固有ベクトル、λを固有値と呼びます。ここで、xが固有ベクトルであるならば、その定数倍cx（cは定数）も固有ベクトルになります。
λは固有方程式
　　det(A-λI)=0
を解いて求めることが出来ます。これはλの２次方程式で、この解をλ_1,λ_2とすればAが特殊な行列でなければ
　　Ax_1 = λ_1x_1
　　Ax_2 = λ_2x_2
を満たすゼロでないベクトルx_1とx_2が存在します。ここで、ベクトルx_1,x_2をその大きさで割ったベクトルをe_1,e_2とすれば、e_1,e_2もまたλ_1,λ_2を固有値とする固有ベクトルになります。
　　Ae_1 = λ1e_1
　　Ae_2 = λ1e_2
ここでe_1とe_2が異なる方向を向いていれば（１次独立）、任意のベクトルaをe_1とe_2の１次結合で表すことが出来ます：
　　a = a_1e_1+a_2e_2
この両辺にAを左から作用させれば
　　Aa = a_1λ_1e_1+a_2λ_2e_2
これは、e_1及びe_2方向に座標軸をとると、行列の成分が
　　A = diag(λ_1,λ_2)　（=λ_1とλ_2を対角要素としそれ以外が0の行列）
と表されることを意味します（これは一般には行列の標準形と呼ばれます）。つまり、行列Aはe_1方向及びe_2方向に伸縮する１次変換であるということです。

まとめると、「特殊な場合を除くと全ての行列は適当な座標軸をとればdiag(λ_1,λ_2)という簡単な変換で表される」ということです。ここで、このような座標軸の方向が固有ベクトルです。特殊な場合というのは固有方程式が重根を持つ場合でこの場合は特別に考えなければなりません。また、No.1さんの言われるように、Aが対称行列であれば、固有ベクトルは互いに直交し、Aの標準形を与える座標軸は直交座標系になります。

No.1 回答者： wiser 回答日時： 2005/03/02 11:46

例えば

┌　　┐┌　┐　┌　┐
│０２││１│　│２│
│２０││２│=│４│
└　　┘└　┘　└　┘
となり、行列は一般にベクトルの方向および長さを変化させます。

次に
┌　　┐┌　┐　┌　┐　　┌　┐
│０２││１│　│２│　　│１│
│２０││１│=│２│= ２│１│
└　　┘└　┘　└　┘　　└　┘
となり、今度はベクトルの向きは変わらず、大きさだけが2倍になっています。

また
┌　　┐┌　┐　 ┌　┐　　　┌　┐
│０２││ 1│　│-2│　　│ 1│
│２０││-1│=│ 2│=-2│-1│
└　　┘└　┘　 └　┘　　　└　┘
となり、今度もベクトルの向きは変わらず、大きさだけが-2倍になっています。

このように、特定の行列を掛けても方向が変わらない特殊なベクトルをその行列の固有ベクトルと呼び、その長さが何倍となったかを固有値と呼びます。

この例の場合、行列
┌　　┐
│０２│
│２０│
└　　┘
の固有値は2,-2で、固有値2に対する固有ベクトルは
┌　┐
│１│
│１│
└　┘
で、固有値-2に対する固有ベクトルは
┌　┐
│ 1│
│-1│
└　┘
となります。

一般的にｎ次元の行列にはｎ個の固有値、固有ベクトルが存在します。

また、この例のように、対称行列の異なる固有値に属する固有ベクトルどうしは互いに直交(1,1)⊥(1,-1)します。