ラグランジュの未定乗数法の証明

初めまして。大学の物理専攻の3年生です。ラグランジュの未定乗数法を用いて条件付きで極値を求める問題（極値問題）を解くということを考えています。未定乗数を導入することによって、拘束条件をなくせる理由がわかりません。つまり、ラグランジュの未定乗数法の証明を教えて欲しいのです。よろしくお願いします。

No.1 回答者： siegmund 回答日時： 2003/11/11 23:06

ラグランジュの未定乗数(係数)法の質問は過去何度か出ています．

質問検索で調べてみてください．

例えば，
http://oshiete1.goo.ne.jp/kotaeru.php3?q=28887
http://oshiete1.goo.ne.jp/kotaeru.php3?q=45154
http://oshiete1.goo.ne.jp/kotaeru.php3?q=58626
http://oshiete1.goo.ne.jp/kotaeru.php3?q=394327
など．

この回答へのお礼

一応、一通り目を通してみたんですけど…僕が気になるところにふれているところがないんですね…とほほです。それでも、未定定数法にについて理解が深まったと思います☆ご迷惑おかけします。

お礼日時：2003/11/12 22:31

No.2 回答者： KENZOU 回答日時： 2003/11/12 00:00

現役で勉強されていますからくどい説明は省いて要点だけを記していきます。

力学変数qi(i=1,・・・n)がすべて独立でなく、簡単のためにある1つの拘束条件
　f(q1,・・・,qn)＝０　　(1)
が存在しているとします。するとこの拘束条件によりすべてのqiを独立とみなすことはできませんね（自由度はn-1となります）。仮にこの拘束条件を解くことが出来たなら、真の独立な力学変数を使ってラグランジアンを書き直し、作用積分
　I＝∫dtL(q,q')　　(2)
の停留条件(変分)を求めるやり方からn-1個の運動方程式が得られます。ただし、書きなおしたラグランジアンは元のよりややこしい形となっているでしょうね。ま、それは兎も角、拘束条件が簡単に解けない場合はどうするのとなるわけですが、解ける場合も解きにくい場合も上手く処理してくれるのがラグランジュの未定定数法のやり方ですね。
さて、(2)の作用積分の変分をとる場合、qiがすべて独立ではなく拘束条件(1)に従っているとして変分をとらなければなりません。つまり
　f(q1+δq1,・・,qn＋δqn)＝０　(3)
を満たさねばならないというわけです。ところで
　(2)の左辺＝f(q1,・・,qn)＋Σ(∂f/∂qi)δqi＝０　(4)
と展開できますので、(1)と併せ考えると結局
　Σ(∂f/∂qi)δqi＝０　(5)
が得られます。ここでλというq1,・・,qnの任意の関数を使うと(5)は任意のλに対して
　λΣ(∂f/∂qi)δqi＝０　(6)
が成り立つことと等価ですね。ところで作用積分(2)の変分は
　δI＝∫dtΣ[∂L/∂qi-(d/dt)∂L/∂qi']δqi＝０　(7)
ですから、(7)に(6)を滑り込ませると
δI=∫drΣ[∂L/∂qi-(d/dt)∂L/∂qi'+λΣ(∂f/∂qi)]δqi=０　(8)
となります。ただし、すべてのδqiが独立というわけではありませんね。そこで(3)を解く代わりにλに任意性をうまく利用して例えばδqfが消えるようにすることが出来ます。それにはλを
　∂L/∂qf-(d/dt)∂L/∂qf'＋λΣ(∂f/∂qf)＝０　(9)
と選べばよいとなります。すると(8)からδqfは消えてしまい
δI=∫drΣ[∂L/∂qi-(d/dt)∂L/∂qi'+λΣ(∂f/∂qi)]δqi=０　　(8)
となります。δqi（i＝1,2,・・,n-1）は独立ですから、(8)を満たすものは
　∂L/∂qi-(d/dt)∂L/∂qi'+λΣ(∂f/∂qi)＝０　(9)
　　（i=1,2,・・n-1）
となります。この時λは(8)を満たすようなものですから、(8)と(9)を一緒にして
　∂L/∂qi-(d/dt)∂L/∂qi'+λΣ(∂f/∂qi)＝０　(10)
　　（i=1,2,・・n）
と書けますね。以上を整理すると(8)を満たすようにλを決めて、そのλを使って(9)とおくと、(1)の作用積分は拘束条件のもとで停留値をとるということになるわけです。このようにλを導入して独立でない変分を消す方法をラグランジュの未定定数法と呼んでいます。晩も遅くなってきましたのでこの辺で、、、ご健闘を祈ります。と回答しようとしたらsiegmuntさんが過去の回答のアドバイスをされていました。上で述べたことは蛇足となるかも知れませんね。

この回答へのお礼

丁寧な説明ありがとうございました☆古典力学でラグランジュの未定乗数法使ってましたね！計算を追うことはできるのですが、そのイメージがいまいち掴めないんです！！直感的にイメージする方法はないのですか？

お礼日時：2003/11/12 21:37

No.3 ベストアンサー 回答者： grothendieck 回答日時： 2003/11/12 00:15

divibさん、こんにちは。

ラグランジュの未定乗数法は非常に不思議な感じがしますね。以下の説明は私が読んだ解説です。多変数関数のラグランジュの未定乗数法とは
　g(x,y) = 0
という拘束条件の下で
　z = f(x,y)
の極値を求める時に
　p = f(x,y) - λg(x,y)
という新しい関数を導入して
　∂p/∂x = ∂p/∂y = ∂p/∂λ =0　…(1)
から極値となる点を求める方法でした。なぜこれで極値の点が求まるのかは次の様に説明されます。x-y平面上にf(x,y)=kという曲線群とg(x,y)=0の曲線を書いてみると、
　∂p/∂x = ∂p/∂y =0
の条件はfとgの勾配ベクトルが平行になっているということを意味します。
　∂p/∂λ =0
はg(x,y)=0を意味します。従って(1)が成り立っている時、g=0の曲線上で微小な変位を考えるとこの点ではg=0の接線はfの勾配ベクトルと垂直なので、fの１次の変化はないことになります。したがってこの点が極値(または停留値)です。ラグランジュの未定乗数法は拘束条件付きの変分問題などでも使えます。これについてはクーラン＝ヒルベルトなどを見て下さい。

この回答へのお礼

簡単な例題を通して二次元で確かに極値を与えそうだという結論に至りました。簡潔な説明ありがとうございました☆これを多次元でイメージするとまだうーんとうなってしまいますが…基本的には二次元と変わらず未定定数法で与えられる点では、gの勾配ベクトルとfのそれが直行するため極値となる！！ということでよさそうですか？

お礼日時：2003/11/12 22:28

No.4 回答者： kony0 回答日時： 2003/11/12 00:57

最適化数理の「制約つき最適化問題」に対する“キューン・タッカー条件”で検索されてはいかがでしょうか？

家にある最適化のほんの数冊の本を見たところ、理論的に逐次説明しているものは残念ながら見当たりませんでした。。。

参考URLにある書籍にならば、なんか書いてあるのかもしれないのですが・・・高いですね。^^;

参考URL：http://www.amazon.co.jp/exec/obidos/ASIN/4254280 …

No.5 回答者： keyguy 回答日時： 2003/11/12 12:24

一般のラグランジュの未定乗数法の証明は線形代数の一次独立、一次従属、行列の階数、連立一次方程式の解法を理解していれば簡単だが、

やたら式が長くなるので書物で説明したものよりも黒板で説明するほうが理解しやすい。
さらに言えば頭の中で式を書いて理解したほうがいいのである。

方法は
「評価関数が極値になる一点から条件等式を満たす任意の方向に前記評価関数を微分すれば０になる。」
を定式化する。
その式を解析すると頭の中で乗数法が成立することが分かる。
そのときに従属、独立、階数、一次方程式などの考えが出てくる。

きちんと証明したものを見ると煩雑で理解しがたくなるが以上の考えを元に自分で思いをめぐらすとたやすく理解できるし証明を書くことができる。
しかし書いた正しい証明は自分が読んでも理解しがたい。

しかし未定乗数法はすべての極値の候補を網羅するので素晴らしい手段である。
その価値を理解していない人が多いのに驚かされることがある。

この回答へのお礼

ありがとうございます！実際の証明というよりは直感的なイメージが理解したいという感じです。keyguyさんのヒントをもとに少し考えさせていただきます！参考になりました！それにしてもすごいですよね☆未定乗数法って！！なんか不思議な感じがします

お礼日時：2003/11/12 21:44

No.6 回答者： keyguy 回答日時： 2003/11/13 03:56

（ラグランジュ）

(x,・・・,z)が領域Dにあるとき
F(x,・・・,z),f(x,・・・,z),・・・,h(x,・・・,z)
がすべてC1級とする。
F(x,・・・,z)が
f(x,・・・,z)=0,・・・,h(x,・・・,z)=0のもと
Dの点A(a,・・・,c)で極値を持つならば
その点で
∂F/∂x-α・∂ｆ/∂x-・・・-γ・∂h/∂x=0
・・・・・・・・・・・・・・・・・・・・・・
∂F/∂z-α・∂ｆ/∂z-・・・-γ・∂h/∂z=0
を満たす数α,・・・,γが存在する。

（ラグランジュの証明の概要）
点Aから
x(t)=l・t+a,・・・,z(t)=n・t+c
であって
df(a,・・・,c)/dt=0
・・・・・・・・・・・
dh(a,・・・,c)/dt=0
・・・(1)
であるいかなる直線を引いても
dF(a,・・・,c)/dt=0・・・(2)
であることから
(tが十分小さければその直線上の点は実質的に拘束条件を満たしていることに注意）
(1)のl,・・・,nの係数行列の行ベクトルの線形一次結合により
(2)のl,・・・,nの係数行ベクトルが表されることを示せば良い。

前半はC1級であるから明らかであり
後半は線形代数の最初のほうの知識(行列の階数の知識)により示すことができる。

なお(1)の係数行列はf,・・・,hの(a,・・・,c)におけるx,・・・,zによる偏微分であり
なお(2)の係数行ベクトルはFの(a,・・・,c)におけるx,・・・,zによる偏微分である。

No.7 回答者： grothendieck 回答日時： 2003/11/13 12:03

divibさん、こんにちは。

多変数で
　∂f/∂xi = λ∂g/∂xi　(i=1,…n)
という条件は「gの勾配ベクトルとfのそれが直行」ではなくて「gの勾配ベクトルとfのそれが平行」です。いいかえると「g=0の接平面とf=kのそれが一致」です。このとき2次以上の変化を無視するとg=0の接平面で動いた時、f=k(一定)の平面上で動くことになりますから、このkが極値となるのです。