最小二乗法では二乗和の誤差
Σ[i=1~n]{Yi-(α+βXi )}^2 (iは添え字です)
を最小化するα,βを推定することを考えますが、
これは単純にα,βで偏微分してそれを0とおいて
連立方程式を解くだけでよいのですか?
といいますのも、2変数関数の極値を求める場合、
Hessianを計算して判別しますよね?
ただ一階偏導関数が0になるからといって、
そこで極値をとるとは限らない気がしたので…
それとも最小二乗法の場合は必ずとるようになっているのでしょうか?
手元の本には、
「この二乗和は非負値なので、αとβで偏微分したものを0とするα,βが上式を最小にする値である」
とあるのですが、一般に非負値だとこの ようなことが言えるのでしょうか?
No.2ベストアンサー
- 回答日時:
ヘッセ行列式を使う極値判定は、二変数関数の場合だけの便法です。
本来は、ヘッセ行列を係数とする二次形式で、多変数関数を近似します。
最小二乗法の場合、極値点を探す関数がもとから二次関数なので、
二次近似と言っても、単に平行移動するだけです。だから、
多変数二次関数にはどんなものがあるか、知っていればそれだけの話です。
二変数二次関数の分類については↓を参照。
http://www.math.sci.osaka-u.ac.jp/~sakane/shudai …
一価関数として表され、下に有界で、停留点が一点だけのものは、
下凸な楕円放物面のみです。そのとき、停留点が最小点になっています。
ただ単に、多変数関数が非負値だというだけでは、このようなことは言えません。
二次関数だということが判っているので、正体は知れているのです。
No.1
- 回答日時:
連立方程式を解けばただ一つの解が得られるのでその場合自動的に最小値を与えるものになります。
Σ[i=1~n]{Yi-(α+βXi )}^2≧0はα、βについて全平面で滑らかなので最小値が存在し、その点で微分係数が消えなければなりません。ところがそのような停留点は一つしかないので結局最小値を与える点でしかあり得ないということです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- JavaScript 最小二乗法 2 2023/01/01 20:57
- 数学 多様体について質問です。 Rを実数全体としてf:S^n={(p_1,…,p_(n+1)∈R^(n+1 2 2023/06/24 00:54
- 物理学 誤差の問題についでです。 yがy=A+Bxの上に乗ると予想でき、以下の4個の測定値 (2,3.2±1 2 2023/04/25 00:54
- 数学 条件付き極値問題といわれる問題です。ラグランジュの乗数法 について、質問したいことがあります。 条件 3 2023/05/15 21:38
- 数学 2変数関数の条件つき極値問題について、 ラグランジュ未定乗数法で候補点を求めたあと、 ①ヘッセ行列の 4 2022/11/13 18:14
- 数学 数学 3次関数の最小値・最大値を求める際 その関数を微分した二次関数を平方完成し最小値を求めるやり方 3 2023/05/02 01:13
- 統計学 t統計量とF統計量について 9 2023/01/05 14:23
- 数学 ラグランジュの未定乗数法を用いる問題 3 2023/05/15 14:48
- 数学 【高1 数学Ⅰ 二次関数】 二次関数 f(x)=x^2-4ax+8a がある。ただし、aは正の定数と 3 2022/07/23 15:46
- 統計学 統計学の問題です よろしくお願いします 回帰直線 次のデータから集計表を作成し,以下の問いに答えよ。 2 2023/01/31 23:36
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
おしどり遊び(テイトの飛び石...
-
全員と同じグループを経験でき...
-
数学の平面ベクトルの問題なの...
-
数学の問題が解けなくて悩んで...
-
数学2です x>0のとき、x + 16/(...
-
東大文系数学の問題です!
-
至急!!二次関数について aは...
-
Y=X2乗+2KX+7はX=3...
-
EXCEL ドラッグしたセル...
-
数学Aの確率
-
正の約数の個数が20個である最...
-
楕円の近似
-
最大元と最小元をもつことの証...
-
Gnuplot 最小二乗フィッティン...
-
mを実数とする。xの関係式f(x)=...
-
2進数のバイアス表現について
-
最大元と最大値 最小元と最小値...
-
2次関数の問題の場合分けで理解...
-
5406を13で割ったときの絶対値...
-
a, bがa>0, b>0,1/a+2/b=3を満...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
2進数のバイアス表現について
-
a, bがa>0, b>0,1/a+2/b=3を満...
-
全員と同じグループを経験でき...
-
(定数a.p.qの値を求めよ) 解...
-
3次元での点群に対する最小二...
-
おしどり遊び(テイトの飛び石...
-
数学2です x>0のとき、x + 16/(...
-
5406を13で割ったときの絶対値...
-
y=x^xの最小値
-
問題文は解答欄に載せます。 四...
-
至急!!二次関数について aは...
-
2次関数の問題の場合分けで理解...
-
mを実数とする。xの関係式f(x)=...
-
中学受験用の小5算数の問題です
-
最大元と最小元をもつことの証...
-
0は公約数?
-
数学の問題が解けなくて悩んで...
-
楕円の近似
-
この問題ですが、 なぜt=4/5の...
-
Gnuplot 最小二乗フィッティン...
おすすめ情報