最小二乗法について

今、最小二乗法について勉強しています。そこで質問なんですが、最少二乗法はデータが非線形の場合に対してもうまくいくのでしょうか？　もしうまくいかないならどのようにすればいいのでしょうか？
教えてくれると助かります。

No.1 ベストアンサー 回答者： yhr2 回答日時： 2015/04/28 10:07

最小二乗法では、フィッティングしようとする関数（モデル関数）は「直線」（一次関数）とは限りません。

　二次曲線でも、対数でも、「モデル関数に、最も妥当にフィッティングさせるための方法」ということです。
http://ja.wikipedia.org/wiki/%E6%9C%80%E5%B0%8F% …
http://szksrv.isc.chubu.ac.jp/lms/lms1.html

　どうやってモデル関数を決めるかは、「点のプロットを見て、何となく」とか、「理論的にそうなるはず」とか、「どうしてもこの関数に従わせたい（無理やり当てはめる）」とか、いろいろあると思います。ここは、「経験と勘」によるものも多いのではないでしょうか。
　何種類かのフィッティング関数を使って、最小二乗法で「誤差」を計算し、それが最小になるものを選ぶ、といった使い方もできます。（直線よりは、二次曲線の方が「誤差」が少ないとか）
http://www.cg.info.hiroshima-cu.ac.jp/~miyazaki/ …

No.2 回答者： stomachman 回答日時： 2015/05/03 04:44

> データが非線形

ってどういう意味でしょうか。データに線形も非線形もありません。「モデルが非線形」というのなら分かりますけどね。
　非線形のモデルに関する最小二乗法を「非線形最小二乗法」と言います。どういうモデルであるかによって処方は様々違いますが、大抵は「近似解を得た上で、これを線形近似によって繰り返し改良していく。そして、適当なところでやめる」というやり方で計算します。（もし実務でお困りであるのなら、具体的にモデルの式を補足なされば、助言できるかも知れません。）