最小二乗法

最小二乗法についてわかりやすく教えてもらえませんか？

No.1 ベストアンサー 回答者： noname#21649 回答日時： 2003/01/21 03:38

最小二乗法には．複数の分類があります。

一つは．測定値と計算値の間の距離を最小にすることが目的のこの計算方法において．何を距離の指標にするかということです。
残差と（名称忘却．－残差のこと）．以下残さと書きます。
残さの2乗を最小とする計算方法．残さ２乗の平方根を最小とする方法．絶対値を最小とする方法．．．等何種類かあります。

次が計算方法です。
１次式（に変形できる場合も含む）に近似する場合には．代数計算で可能です。
ｎ次式では．ヤコビ法による計算が簡単ですが．電子計算機を使う場合に．電子計算機特有の問題が出て．ヤコビ法以外の計算を使う場合があります。5-6種類あったはずです。
線形式（ｎ次式）以外の場合には．いったん残差を求め．変数を変えて．．と繰り返しで計算する方法になります。繰り返しの計算を行うときに．変数の変更の仕方によって3種類ぐらい方法があります。
求めようとする関数を三角関数で近似できる場合に．データサンプリング区間が1周期になるときに使われる方法が．FFT法です。ただし．高速FFTが使える場合は２のｎ乗個のデータの場合にかぎられます。1周期になっていない場合は．別の計算方法を使います。
最後に．いずれの方法にも属さない方法があります。OR法．計画法です。これは．線型方程式の場合には線形計画法を．非線型方程式の場合には非線形計画法を使います。それぞれ．計算方法が複数ありますので．素の時に応じて使い分けます。

こんなところですか。「わかりやすく」ということなので．具体的に計算方法は省略しました。今の時代はコンピューターがありますので．計算自体はコンピューターを使えばよく．数学を知らない人々の場合には．検算方法や解の巣問題・鞍部問題などの各種問題の解決方法を知っていれば良いでしょう。