準ニュートン法の直線探索と収束性

　プログラムとして直線探索を実装した準ニュートン法を作成しました。
これについて、2次関数で試行すると、ヘッセ行列の逆は理論値の[0.5 0; 0 0.5]に収束することが確認できました。
　他方で、直線探索を外し、一定値の間隔で進む？ようにしますと、逆行列の理論値から外れた値に収束することが見受けられました（探索点は2次関数の最小値に収束します）。
これは、プログラムミスなのか、準ニュートン法で直線探索をしないことによる帰結なのか、どちらなのでしょうか？また、後者であれば、その理由は数学的に明らかにされているのでしょうか？

No.1 回答者： spring135 回答日時： 2011/09/15 22:47

ニュートン法では収束値を求めるのであって、解となりうるかの吟味が必要な場合が多々あります。

たとえば前提条件から解はaとb(a<b)の間とわかっている場合、Bより大きい解、aより小さい解は除外されますが、ニュ-トン法でこれらに収束することはよくあります。またｗの字の形のような4次関数の場合極小値と極小値の共通接線になってしまうと繰り返しごとに2つの接点を交互に飛び移るような挙動もあります。
　このような現象は多変数関数で、ベクトルや行列のような取り扱いをする場合も全く同様に生じます。