最小二乗法では二乗和の誤差
Σ[i=1~n]{Yi-(α+βXi )}^2 (iは添え字です)
を最小化するα,βを推定することを考えますが、
これは単純にα,βで偏微分してそれを0とおいて
連立方程式を解くだけでよいのですか?
といいますのも、2変数関数の極値を求める場合、
Hessianを計算して判別しますよね?
ただ一階偏導関数が0になるからといって、
そこで極値をとるとは限らない気がしたので…
それとも最小二乗法の場合は必ずとるようになっているのでしょうか?
手元の本には、
「この二乗和は非負値なので、αとβで偏微分したものを0とするα,βが上式を最小にする値である」
とあるのですが、一般に非負値だとこの ようなことが言えるのでしょうか?
No.2ベストアンサー
- 回答日時:
ヘッセ行列式を使う極値判定は、二変数関数の場合だけの便法です。
本来は、ヘッセ行列を係数とする二次形式で、多変数関数を近似します。
最小二乗法の場合、極値点を探す関数がもとから二次関数なので、
二次近似と言っても、単に平行移動するだけです。だから、
多変数二次関数にはどんなものがあるか、知っていればそれだけの話です。
二変数二次関数の分類については↓を参照。
http://www.math.sci.osaka-u.ac.jp/~sakane/shudai …
一価関数として表され、下に有界で、停留点が一点だけのものは、
下凸な楕円放物面のみです。そのとき、停留点が最小点になっています。
ただ単に、多変数関数が非負値だというだけでは、このようなことは言えません。
二次関数だということが判っているので、正体は知れているのです。
No.1
- 回答日時:
連立方程式を解けばただ一つの解が得られるのでその場合自動的に最小値を与えるものになります。
Σ[i=1~n]{Yi-(α+βXi )}^2≧0はα、βについて全平面で滑らかなので最小値が存在し、その点で微分係数が消えなければなりません。ところがそのような停留点は一つしかないので結局最小値を与える点でしかあり得ないということです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・14歳の自分に衝撃の事実を告げてください
- ・架空の映画のネタバレレビュー
- ・「お昼の放送」の思い出
- ・昨日見た夢を教えて下さい
- ・ちょっと先の未来クイズ第4問
- ・【大喜利】【投稿~10/21(月)】買ったばかりの自転車を分解してひと言
- ・メモのコツを教えてください!
- ・CDの保有枚数を教えてください
- ・ホテルを選ぶとき、これだけは譲れない条件TOP3は?
- ・家・車以外で、人生で一番奮発した買い物
- ・人生最悪の忘れ物
- ・【コナン30周年】嘘でしょ!?と思った○○周年を教えて【ハルヒ20周年】
- ・ハマっている「お菓子」を教えて!
- ・最近、いつ泣きましたか?
- ・夏が終わったと感じる瞬間って、どんな時?
- ・10秒目をつむったら…
- ・人生のプチ美学を教えてください!!
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・都道府県穴埋めゲーム
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
全員と同じグループを経験でき...
-
2進数のバイアス表現について
-
1/x+1/y≦1/2 , 2<x,2<yのとき、...
-
以下の問題の解答・解説を教え...
-
ある数字を割り切れる最小の数...
-
mを実数とする。xの関係式f(x)=...
-
次の問題を解いてください。 実...
-
【放物線の問題】
-
3次元での点群に対する最小二...
-
積分を利用した面積の最小値
-
問題文は解答欄に載せます。 四...
-
解答よろしくお願いします
-
Xの二次関数 y=x ²ーmx+m(mは...
-
整数
-
非負最小2乗法のコーディング
-
2次関数の応用
-
フェルマー点について
-
至急!!二次関数について aは...
-
35%と65%に分けるには最低何人...
-
次の条件を満たす二次関数を求...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
全員と同じグループを経験でき...
-
至急!!二次関数について aは...
-
2進数のバイアス表現について
-
数学Aの確率
-
【放物線の問題】
-
y=x^xの最小値
-
数学の問題がわからず困ってお...
-
数学2です x>0のとき、x + 16/(...
-
中学受験用の小5算数の問題です
-
3次元での点群に対する最小二...
-
おしどり遊び(テイトの飛び石...
-
次の問題を解いてください。 実...
-
x.>0ときγ(x)が最小値となるxの...
-
高校数学1の問題集に、2次関数...
-
3で割ると2余り、7で割ると4余...
-
Xの二次関数 y=x ²ーmx+m(mは...
-
0は公約数?
-
1/x+1/y≦1/2 , 2<x,2<yのとき、...
-
問題文は解答欄に載せます。 四...
-
最小値が-2でグラフは2点(0、0)...
おすすめ情報