最小二乗法について全く分かりません。どういう時に使うのか?どうやって使うのか?どういう式があるのかを教えて下さい。できれば例を使っておねがいします。皆さんにお手数掛けますがよろしくお願いします。

このQ&Aに関連する最新のQ&A

A 回答 (6件)

siegmund です.



簡単に言えば,最小二乗法は誤差のあるデータの解析や整理に使われる方法です.

たとえば,電池と抵抗の単純な回路で,電流 I と抵抗の両端の電位差 V を
測定したとします.
適当な方法で(可変抵抗を使うなど) I を 1 mA おきに 0 mA から 100 mA まで変える,など.
オームの法則で I と V は比例するはずですから,I と V をグラフに描けば
理想的には測定点は直線上に並ぶはずです.
ところが,測定には誤差がつきものですから,測定点は完全に直線上には並ばず,
多少分散することになります.
で,どうやって直線を引きます?
直線の両側に同じように測定点がばらつくするように引きますよね.
でも,こうやると目分量に頼ることになりますから,
直線の傾き(つまり, I と V の間の比例係数,すなわち抵抗値)は,
誰が直線を引くかで多少違ってきてしまいます.
ここらへんの手続きを数学的に厳密にし,
人によるあいまいさが入らないようにしたのが最小二乗法です.

最小二乗法を全部解説すると長くなりすぎます.
以前の質問を拝見すると,yuni- さんは原子核の本やスピン,パリティなどが出てくる
本を読まれているようですから,適当な本を参照されるようにおすすめします.
理工学系の大学初年級対象の物理実験の本を探してみてください.
測定値処理の方法としてたいてい最小二乗法の記述があります.
    • good
    • 0
この回答へのお礼

問題を皆さんに提起してから1時間ほどでお答えいただいて、本当にありがとうございました。簡単なたとえのおかげで、どういうときに使用されるのかが、大体分かりました。多分これだけじゃないと思うので、もっと勉強してみます。siegmundさんには以前も回答いただいて、本当に助かっています。まだまだ、わからないことが、たくさん出てくるので、たくさん質問しますが、よろしくよろしくお願いします。こんかいもほんとうにありがとうございました。

お礼日時:2001/01/08 13:33

実際に最小二乗法をデータの分析に使おうとなさっているのなら、


中川・小柳「最小二乗法による実験データ解析」東京大学出版会 
を入手されることをお勧めします。計算方法のみならず、理論的根拠と実践的なポイントが丁寧に解説されている名著です。
    • good
    • 0
この回答へのお礼

ちょうど、参考書を購入しようと思っていたところだったので、ぜひ参考にして、できる限り購入しようと思いました。本当につまらない質問に時間を割いていただきありがとうございました。   ゆにーより

お礼日時:2001/01/08 13:17

以下のサイトは参考になりますでしょうか?


1.http://www2.kyoto-su.ac.jp/~fpc30017/Kyosan/leas …
(最小二乗法)
プログラムも記載あり(?)
2.http://aoki2.si.gunma-u.ac.jp/lecture/Regression …
(ロジスティック曲線)
3.http://aoki2.si.gunma-u.ac.jp/lecture/Regression …
(ゴンペルツ曲線)

ご参考まで。
    • good
    • 0
この回答へのお礼

このようなサイトがあることを知らなかったので、これから行って勉強しようと思います。いつ、また、質問するかもわからないので、そのときにはまたよろしくお願いします。本当にありがとうございました。

お礼日時:2001/01/08 13:19

これ以上書く必要はないほど回答が出ていますが、いちおう具体例を出してみます


熱電対の温度(T)と起電力(V)の関係を表す式を出すときに最小二乗法を使います
TとVの関係をグラフにすると二次曲線らしきグラフが得られます。このグラフはどんな式で表されるのでしょうか
この式はグラフの形からはV=a+bT+cT^2+dT^3…の多項式であると予想されます。
しかし、a b c …はどんな値かわかりません。そこで最小二乗法のおでましです。
実験データのTとVの値を最小二乗法の計算にほうりこんでやると a b c … が出てきます

こんな風に最小二乗法は使われます
この計算は手計算ではかなり大変ですが、プログラムなんかを作っておけば、TとVを入力するだけで簡単に a b c が出てくるので大変便利です
    • good
    • 0
この回答へのお礼

具体的に教えて頂くと、どんなときに使われているのかが理解できました。熱伝対の実験を一回したことがあるのを、忘れていました。これから、資料を引っ張り出してみようと思います。教えていただいて本当にありがとうございました。また、分からないことがあるときは、いろいろ教えてください。よろしくおねがいします。ゆにーより

お礼日時:2001/01/08 13:26

yoichiro-itoさんが詳しく示されていますので、式については述べません。

基本的にはy=bX+aの式になるであろうデータから、数学的にa,bの数値を導き出すのが最小自乗法と考えればよいでしょう。
例えば、検量線を作るとき、ピーク面積と濃度の関係をプロットしますネ。その時、完全に全ての点が一直線上に乗ればよいのですが、実際にはごくわずかなブレをもっていたりします。その際、目分量で線を引いていてはきちんとした検量線にはなりませんネ。そこで、最小自乗法を用いて計算で傾きを求めるのです。
また、実験データを解析する際にも有用です。特に生体を用いる実験などでは非常にデータにばらつきがあります。これを収束して、薬効検定をする際の濃度と薬効の相関を求める際にも用います。
極めて応用の広いものですヨ。
今はコンピュータで一瞬で求めることができるので、どんどん活用してください。私が学生の頃は手計算で一晩中かけて計算していました‥
以上kawakawaでした
    • good
    • 0
この回答へのお礼

式の簡単な説明と、何を求めるか?また、最小二乗法がこんなに応用の広いものだとは知りませんでした。どんなときに使われているのかも少し分かったような気がします。
また、いろいろ質問するので、そのときは本当に申し訳ありませんが、よろしくお願いします。ありがとうございました。ゆにーより

お礼日時:2001/01/08 13:46

最小自乗法について回答します。


最小自乗法は直線に近似できると思われるデータの
近似曲線を求める手法です。

実験のデータなどで直線的な点のデータがでた場合、
その各点にもっとも近くなるような線を引きますが、
それを理論的にすべての点に近くなるように曲線が
引けます。

直線の場合について説明します。

x,y座標上で考えます。
x_k、y_kを与えられたデータとします。
kは1からnです。n個のデータがある場合。
求める直線の方程式をa+bxとします。このa,bを求めます。
点x_k,y_kと直線の差d(y軸に平行)は
d=y_k-(a+bx_k)とします。
dは正負両方の値をとり得ることを考慮し2乗し、
全部の点での差を足しあわせると、
E=Σ{y_k-(a+bx_k)} である。
これを最小とすることで、最も近似している直線を求める。
自乗の足し算を最小とするので最小自乗法という。
Eはaとbの関数なので、a,bそれぞれで偏微分する。
Eのaでの偏微分、Eのbでの偏微分それぞれ0とする。
微分値が0というのは極小値を求めることの意味である。
次の2式が求められる
Σ -2(y_k-a-bx_k) = 0
Σ -2x_k(y_k-a-bx_k) = 0
これより
Σ (y_k-a-bx_k) = 0
Σ x_k(y_k-a-bx_k) = 0
であり、変形して

n・a + (Σ x_k)・b = (Σ y_k)
(Σx_k)・a + (Σx_k^2)・b = Σ(x_k・y_k)

の2式がでる。これを正規方程式と呼ぶ。
これで
Σ x_k
Σ x_k^2
Σ y_k
Σ x_k・y_k
を求めることで2次方程式を解けばよい。
これで、a,bが求まり直線の式が求まる
Σ x_k はデータのxの値のみすべて足しあわせるという
意味です。
尚、"_"は右下付き、"^"は右肩付きという意味で、
Σは1からnまでの足し算です。

以上は直線の最小自乗法ですが2次曲線、3次曲線でも
同様の考え方でできます。

例)
データ(2,1)(4,2)の2点の場合。
Σx_k = 2+4 = 6
Σx_k^2 = 2×2+4×4 = 20
Σy_k = 1+2 = 3
Σx_k・y_k = 2×1+4×2 = 10
よって2次方程式は
2×a + 6×b = 3
6×a + 20×b = 10
これを解くと
a=0
b=1/2
この場合2点しかありませんので、2点を通る直線が
求まります。データが増えてもやり方は同じです。

検索エンジンで検索すればいろいろ情報がでてくると
思います。長くなりましたが、ご理解いただければ
幸いです。
    • good
    • 0
この回答へのお礼

一般にどんな式があるのかを教えていただいて、本当にありがとうございます。この回答を参考にして、いろいろ考えてみたいと思いました。また、解らないことがあるときには、質問しますので、愚問ではありますが、よろしくお願いします。ありがとうございました。ゆにーより

お礼日時:2001/01/08 13:39

このQ&Aに関連する人気のQ&A

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています

このQ&Aを見た人が検索しているワード

このQ&Aと関連する良く見られている質問

Q最小二乗法

工学部の大学生です。
この前

エクセルを用いて、
非線形最小二乗法によるNMRのスピンー格子緩和時間解析
についてのレポートがだされてしまいました。。

全然わかりません。。

(1)非線形最小二乗法と線形最小二乗法の違い
(2)スピンー格子緩和時間とは??
(3)NMRとは??

についてわかる方教えていただけるとありがたいです。

Aベストアンサー

このくらい自分で調べなさい

(1)は、線形と非線形の意味がわかりますか
線形で近似するのが線形最小二乗法、非線形で近似するのが非線形最小二乗法

Qよろしくおねがいします!

こんばんわ。水理学のことで教えてほしいことがあります。専門的な内容で説明もわかりにくいと思うのですが教えていただけると幸いです。

「平面に働く静水圧」という項目の全水圧を断面2次モーメントで表した個所で、具体的には、平板の図心Gを通るY軸まわりの断面2次モーメントI0を使って平板のy軸(水面にとった軸です)
まわりのモーメントを表すとI=hGA+I0(hG:水面から図心までの深さ、A:平板の断面積)になるという個所です。よくわからない点は、上式は、下記式から求められるらしいのですが、この式の第2項はY軸が平板の図心を通るので0という説明の意味がよくわかりません。∫ZdAは断面1次モーメントだと思うのですが何か関係があるのでしょうか?

式:I=∫z^2da=∫(hG+Z)^2dA=hG^2∫dA+2hG∫ZdA(=0)+∫Z^2dA

Aベストアンサー

こんにちは

任意平面上の点で,その点に関する断面一次モーメントが0となる点を図心と定義しているからです.

参考URL:http://www.ms.t.kanazawa-u.ac.jp/~design/hojo/zairiki/text/00common/zusinn.htm

Q最小二乗法における有効数字について

最小二乗法における有効数字について質問があります.

直線近似を行うとします.最小二乗法を用いるデータの有効数字を考慮して,最小二乗法により求められた直線の傾きa,切片b の有効数字が決まると思うのですが,どのようにこの有効数字を決定すれば良いのでしょうか?

Aベストアンサー

>この最確値とはa,bを有効数字を気にせずとりあえず求め

この手の計算は計算量が多いため通常手計算はしません。
なので計算途中は計算機に任せて最大の桁数で計算すればいいです。

>例えばですが,ua = 0.0011 と求まればuaの最大の桁は10^{-3}となるので,
>aは10^-3もしくは10^-4までの値を使えば良いという認識でよろしいですか?

これが最終結果なら

a = 1.234±0.001 または a = 1.2345 ± 0.0011

と表記します。(単位があれば単位を忘れずに)
(計算過程にあってさらに計算を進めるなら、最低一桁以上は余分に取っておく必要があります。)

>加減算や乗除算による有効数字の取り方を考えるだけでは駄目なのでしょうか?

かえって面倒くさいですよ。

それに、いわゆる有効数字の計算は簡便な計算法に過ぎませんので、統計処理をするまでの手続きと思っておいたほうがいいです。標準偏差で不確かさを計算するまではどこで打ち切っていいか不明なので、それまで使う計算法ということですね。いったん標準偏差が計算できたらそれに従うべきです。

>この最確値とはa,bを有効数字を気にせずとりあえず求め

この手の計算は計算量が多いため通常手計算はしません。
なので計算途中は計算機に任せて最大の桁数で計算すればいいです。

>例えばですが,ua = 0.0011 と求まればuaの最大の桁は10^{-3}となるので,
>aは10^-3もしくは10^-4までの値を使えば良いという認識でよろしいですか?

これが最終結果なら

a = 1.234±0.001 または a = 1.2345 ± 0.0011

と表記します。(単位があれば単位を忘れずに)
(計算過程にあってさらに計算を進めるなら、最低一桁以...続きを読む

Q最小自乗法

実験結果をグラフにプロットしたところ、二次関数のような形になりました。
ここで
Y=aXX+bX=c
とおいたとき、最小自乗法から a,b,cの値を求めるにはどうしたら
いいのでしょうか?

Aベストアンサー

【基本的な考え方】
・二つの変数(x , y)の観測値がn組み得られてて、
その関係が y = ax^2 + bx +c と言う式で関係
付けられる時、n組の値を x と y を関係付ける
式の代入して、観測値yと x と y を関係付ける式
 で得られる値との差を記すと

e1 = y1 - ( ax1^2 + bx1 + c )
e2 = y2 - ( ax2^2 + bx2 + c )
: : : : : : :
en = yn - ( axn^2 + bxn + c )

・これらの、二乗和を求めると

E = e1^2 + e2^2 + + en^2

・この E を最小にする、(a , b , c )を求めるのが
ご質問の回答ですね。

【具体的な手順】
・上に記した方向付けで、手順を示します。
(Σの範囲は、1~n です。)
E=Σ(yi-(axi^2 + bxi + c))^2

・Eを最小にする a,b,c を求めるには、上の式を
a,b,c で偏微分して極値を求めます。

∂E/∂a=-2Σxi^2(yi-(axi^2 + bxi + c))
∂E/∂b=-2Σxi(yi-(axi^2 + bxi + c))
∂E/∂a=-2Σ(yi-(axi^2 + bxi + c))

・上の三つの式から次の連立方程式が得られます。

aΣxi^4 + bΣxi^3 + cΣxi^2 = Σxi^2yi
aΣxi^3 + bΣxi^2 + cΣxi = Σxiyi
aΣxi^2 + bΣxi + cΣ = Σyi

・この解が、求める a,b,c です。
さて、参考になったでしょうか?

【基本的な考え方】
・二つの変数(x , y)の観測値がn組み得られてて、
その関係が y = ax^2 + bx +c と言う式で関係
付けられる時、n組の値を x と y を関係付ける
式の代入して、観測値yと x と y を関係付ける式
 で得られる値との差を記すと

e1 = y1 - ( ax1^2 + bx1 + c )
e2 = y2 - ( ax2^2 + bx2 + c )
: : : : : : :
en = yn - ( axn^2 + bxn + c )

・これらの、二乗和を求めると

E = e1^2 + e2^2 + + en^2

・この E を最小にする、(a , b , c )を...続きを読む

Q最小二乗法での指数関数の計算

最小二乗法での指数関数の計算
最小二乗法での指数関数の計算方法が良く分からないのですが公式などありますか?
y=ae^bxでしたらやり方があるのですがy=ae^bx+cの方法がわかりません・・・・・・

Aベストアンサー

No1の方が書いておられるように、これは厳密には非線形の最小二乗法になります。
ただし、単にそう書いても、質問者の方にはわからないと思いますので、具体的かつ実用的なやり方を書きましょう。
と言っても、簡単です。
まず、cとして、適当な値c1を仮定します。
すると、
y-c1=a1e^b1x
の最小二乗法に帰着され、a1,b1が求まります。
この時の残差を、z1とします。
z1=Σ(yi-c1-a1e^b1xi)^2

次に、cの増分値をΔcとして、
c2←c1+Δc
と置いて、また最小二乗法を適用し、残差z2を求めます。
z2=Σ(yi-c2-a2e^b2xi)^2

さらに、
c3←c1+2Δc
と置いて、また最小二乗法を適用し、残差z3を求めます。

この段階で、cに対して残差zをプロットし、2次関数近似してみましょう。
うまくいけば、極小値がこの範囲内にみつかります。
この2次関数から直接、または、初期値c1と増分値Δcをもっと適切な値となるように設定するなりして極小値の存在範囲を狭めてから2次関数近似して、この極小値cを求めましょう。
最後にもういちど、cに対する最小二乗法を適用して、係数a,bを求めれば、それが答です。

もし、cに対するzが、単調増加、あるいは単調減少になってしまったら?
この場合、Δcが大きすぎると、極小値が範囲内にあるにも関わらず、単調増加あるいは単調減少になってしまっている可能性も高いので、c1,c2,c3は変えず、Δcを1/2にして、c1とc2、c2とc3の間の値を求め、全5点をプロットしてみます。
本質的に単調増加あるいは単調減少なら、傾向に変化はないはずです。この場合には、zが小さくなる方向にcの初期値と増分値Δcを選びなおして、再計算してみましょう。
区間内に極小値がある場合には、傾向が”それらしく"変化しますから、増分値をもっと細かくして、極小値を押さえれば良いのです。

慣れてくれば、2次関数近似といわず、最初から絨毯爆撃的にcを規則的に変化させながらzの動きを把握していくなどの小ざかしい方法を覚えるようになりますが、最後は極小値の存在する区間の3個の値から2次関数近似することには変わりがありません。(2次関数近似は扱いが簡単で便利ですから。)

No1の方が書いておられるように、これは厳密には非線形の最小二乗法になります。
ただし、単にそう書いても、質問者の方にはわからないと思いますので、具体的かつ実用的なやり方を書きましょう。
と言っても、簡単です。
まず、cとして、適当な値c1を仮定します。
すると、
y-c1=a1e^b1x
の最小二乗法に帰着され、a1,b1が求まります。
この時の残差を、z1とします。
z1=Σ(yi-c1-a1e^b1xi)^2

次に、cの増分値をΔcとして、
c2←c1+Δc
と置いて、また最小二乗法を適用し、残差z2を求めます。
z2=Σ(yi-c2-a2e^b2xi)...続きを読む

Q最小作用の原理

サイトで最小作用の原理を読んだのですが
途中わからないところがあったので
説明をお願いします

運動方程式にδx(t)という時間の関数をかける。このδx(t)は仮想仕事の原理におけるδxに対応する。つまり一種の仮想変位である。

(-md^2x/dt^2-∂U/∂x)δx(t)=0

そして部分積分を1回すると

∫(m(dx/dt)(dδx/dt)-(∂U/∂x)δx)dt=0

となり

∫(1/2m(dx/dt)^2-U(x))(t)=0

∫(1/2m(d(x+δx)/dt)^2-U(x+δx)(t)=0
の変化量となる

と書いてあったのですが、
まず部分積分の計算の仕方がわからないのと

∫(1/2m(dx/dt)^2-U(x))(t)=0

∫(1/2m(d(x+δx)/dt)^2-U(x+δx)(t)=0
の変化量

となる理由を教えてください
お願いします

読んだサイト
http://www.phys.u-ryukyu.ac.jp/~maeno/cgi-bin/pukiwiki/index.php?%BA%C7%BE%AE%BA%EE%CD%D1%A4%CE%B8%B6%CD%FD%A4%CF%A4%C9%A4%B3%A4%AB%A4%E9%A4%AF%A4%EB%A4%AB%A1%A9

サイトで最小作用の原理を読んだのですが
途中わからないところがあったので
説明をお願いします

運動方程式にδx(t)という時間の関数をかける。このδx(t)は仮想仕事の原理におけるδxに対応する。つまり一種の仮想変位である。

(-md^2x/dt^2-∂U/∂x)δx(t)=0

そして部分積分を1回すると

∫(m(dx/dt)(dδx/dt)-(∂U/∂x)δx)dt=0

となり

∫(1/2m(dx/dt)^2-U(x))(t)=0

∫(1/2m(d(x+δx)/dt)^2-U(x+δx)(t)=0
の変化量となる

と書いてあったのですが、
まず部分積分の計算の仕方がわからないの...続きを読む

Aベストアンサー

最初の問題:
変分と同じように δx(t) を積分するとき、積分の上下限、経路の出発点と終了点においては、
元の経路との差を 0 とするためでしょう。

つまり、∫(-md^2x/dt^2-∂U/∂x)δx(t)dt
=[{(-md^2x/dt^2)・∫δx(t)dt}-∫(-mdx/dt)・(dδx/dt)dt]-∫(∂U/∂x)δx(t)dt

右辺第一項の ∫[t_1→t_2]δx(t)dt は、t_1、においても、t_2 においても、元の経路からの
変位を 0 としているので ∫[0→0]δx(t)dt=0

∴ ∫{m(dx/dt)(dδx/dt)-(∂U/∂x)δx}dt=0


次の問題:
(1/2)m・{d(x+δx)/dt}^2 の式は、(x+δx) を t で微分し、自乗したものに (1/2)m を掛ける

つまり、(1/2)m・{(d/dt)(x+δx)}^2=(1/2)m・{(dx/dt)+(d/dt)(δx)}^2
=(1/2)m・[(dx/dt)^2+2・(dx/dt)・(d/dt)(δx)+{(d/dt)(δx)}^2]
なので、
(1/2)m・(dx/dt)^2 との差が、(1/2)m・[2・(dx/dt)・(d/dt)(δx)+{(d/dt)(δx)}^2] であり、
{(d/dt)(δx)}^2 が微小変位、"δx の二次の量" であるのでこれを省略すると
(1/2)m・2・(dx/dt)・(d/dt)(δx)=m・(dx/dt)・(dδx/dt) となる、ということでしょう。

最初の問題:
変分と同じように δx(t) を積分するとき、積分の上下限、経路の出発点と終了点においては、
元の経路との差を 0 とするためでしょう。

つまり、∫(-md^2x/dt^2-∂U/∂x)δx(t)dt
=[{(-md^2x/dt^2)・∫δx(t)dt}-∫(-mdx/dt)・(dδx/dt)dt]-∫(∂U/∂x)δx(t)dt

右辺第一項の ∫[t_1→t_2]δx(t)dt は、t_1、においても、t_2 においても、元の経路からの
変位を 0 としているので ∫[0→0]δx(t)dt=0

∴ ∫{m(dx/dt)(dδx/dt)-(∂U/∂x)δx}dt=0


次の問題:
(1/2)m・{d(x+δx)/dt}^2 の式は、(x+δx) を...続きを読む

Q誤差を考慮した最小二乗法

誤差を考慮した最小二乗法
実験で「誤差を考慮した最小二乗法で計算せよ。尚、誤差を考慮しない場合は減点する。この場合の誤差とは標準偏差の事である。」という課題何ですが誤差を考慮した最小二乗法とはどうゆう事なのでしょうか?

http://www.dotup.org/uploda/www.dotup.org828193.xls.html
のデータにて
http://www.akita-nct.ac.jp/~yamamoto/lecture/2007/5E_comp_app/interpolation/interpolation_html/node4.html
のサイト様を参考にして一次関数の最小二乗法で計算しようと思ったのですが標準偏差はどこに入れればいいのでしょうか?グラフを作った後に誤差棒として標準偏差を入れるという事なのでしょうか?

Aベストアンサー

普通は質問文に上げてあるサイトや、Wikipediaの最初のほうに書いてあるように、
最小二乗法は、残差二乗和を最小にするように係数を決める方法だと書いてあります。
しかしこれは、標準偏差がσすべて同じ場合に限られます。

各測定点でばらつきが異なりそれが既知である場合には、xとyに

y=f(x; a, b, ...)

というモデルを採用した場合には

残差二乗値

E(a,b,...) = Σi ([yi-f(xi; a, b, ...)])^2

ではなく、χ二乗値と呼ばれる

χ^2 = Σi ([yi-f(xi; a, b, ...)]/σi)^2

を最小にします。モデルが一次式ならば y = ax +b なので

χ^2 = Σi ([yi-axi-b]/σi)^2

です。したがって、

E(a,b) = Σi ([yi- axi - b])^2

をスタートにする代わりに

χ^2 = Σi ([yi-axi-b]/σi)^2

から初めて、質問文にあるサイト

http://www.akita-nct.ac.jp/~yamamoto/lecture/2007/5E_comp_app/interpolation/interpolation_html/node4.html

に書いてあることと、全く同じように求めていけばいいです。
課題ということですので、以下、ご自身で行ってください。

普通は質問文に上げてあるサイトや、Wikipediaの最初のほうに書いてあるように、
最小二乗法は、残差二乗和を最小にするように係数を決める方法だと書いてあります。
しかしこれは、標準偏差がσすべて同じ場合に限られます。

各測定点でばらつきが異なりそれが既知である場合には、xとyに

y=f(x; a, b, ...)

というモデルを採用した場合には

残差二乗値

E(a,b,...) = Σi ([yi-f(xi; a, b, ...)])^2

ではなく、χ二乗値と呼ばれる

χ^2 = Σi ([yi-f(xi; a, b, ...)]/σi)^2

を最小にします。モデルが一次式な...続きを読む

Q最小作用の原理

タイトルの通り、現在最小作用の原理を使用して物理を解いています。
しかし実際に計算してみると作用量が負の値になります。

最小作用の原理は先日習ったばかりなのですが、
その作用量が負になっても良いかどうかが分かりません。

簡単な質問かも知れませんが、教えて下さい。

Aベストアンサー

続きですが、

場による運動があった場合には《最小作用の原理》というのは「場に逆らって動かす際の最小作用の計算」に使う物ですから、重力運動の場合には「重力に逆らって上に押し上げる準静的移動」に対して計算します。

ですから値がマイナスになることは有り得ません!

(最小作用であるのに負値を許したらディラックの海と同じく幾らでも際限なくマイナス無限大にまで発散してしまいますので念の為!)

Qy=a/(x-b)+cの最小二乗法

y=a/(x-b)+cの最小二乗法

y=a/(x-b)+c
という、反比例の式をx方向に+b、y方向に+c平行移動したような曲線の係数a,b,cを求めるための最小二乗法の方法を教えていただけないでしょうか。

工夫してみたのですが、なかなかうまくいきませんでした。
すみませんが、力を貸してください。

Aベストアンサー

 データ(x[k], y[k]) (k=1,2,...,N)
が与えられた時に、残差(residue)
r[k] = a/(x[k]-b)+c-y[k]
の二乗和(square sum of residue)
E(a,b,c) = Σ(r[k]^2) (Σはk=1,...,Nについての総和)
を最小にする係数(a,b,c)を求む、というのが「y=a/(x-b)+cの最小二乗法」の意味するところですね。

 Eが極値を取る係数(a,b,c)を知るために「Eをa,b,cそれぞれで偏微分したものが0になる」という条件を表す連立方程式
∂E/∂a = 0
∂E/∂b = 0
∂E/∂c = 0
を作ってみますと、左辺を計算すると未知数a,b,cについて一次方程式にはならず、これじゃ解けない。

 連立一次方程式にならない場合を「非線形最小二乗法」と(そして、連立一次方程式になってくれる場合を「線形最小二乗法」と)呼びます。非線形最小二乗法では、適当な出発値(a[0], b[0], c[0])から始めて、Eが小さくなるようにちょっとずつ(a,b,c)を改良して行く繰り返し計算が必要です。
 改良のための計算方法はいろいろ工夫(Gauss-Newton法、最急降下法、Marquardt法など)されていますが、最も単純でオバカなやり方は、
(1) b,cを定数、aだけを変数と考えてEを最小化する。
(2) a,cを定数、bだけを変数と考えてEを最小化する。
(3) a,bを定数、cだけを変数と考えてEを最小化する。
を順繰りに何度も何度も繰り返すことです。(教科書は「最小二乗法による実験データの解析」(東京大学出版会)をお薦めします。)

 案外重要なのが出発値(a[0], b[0], c[0])の選び方。ここで言う「適当な」とは、テキトーじゃ駄目なんで、(本来の意味での)適当な、つまり真の解に十分近い出発値を選ばないと改良の計算が収束しないことがあります。
 出発値を選ぶひとつの方法は、「もし残差が0になるようなデータが与えられたならばEに一致して、しかも簡単に計算できる」ような値Fを定義して、Fを最小化する(a,b,c)を(a[0], b[0], c[0])として利用する、というやりかたです。具体的には、
r[k] = a[0]/(x[k]-b[0])+c[0]-y[k]

r[k](x[k]-b[0]) = a[0]+(c[0]-y[k])(x[k]-b[0])
と変形しておいて右辺を展開すると、
r[k](x[k]-b[0]) = (a[0]-b[0]c[0])+b[0]y[k]+c[0]x[k]-y[k]x[k]
ここで
A = a[0]-b[0]c[0]
B = b[0]
C = c[0]
とおくと、
r[k](x[k]-b[0]) = A+By[k]+Cx[k]-y[k]x[k]
と書けますから、この右辺を
s[k] = A+By[k]+Cx[k]-y[k]x[k]
と定義して
F(A,B,C) = Σ(s[k]^2) (Σはk=1,...,Nについての総和)
を最小化するA,B,Cを考える。
すると、s[k]はA,B,Cの一次式になっているので、「普通の(線形)」最小二乗法でA,B,Cが決定できます。そしてA,B,Cからa[0],b[0],c[0]が決まる。(もしr[k]が全て0であれば、E(a[0],b[0],c[0])=0 になるのは自明でしょう。)
 こうして得たa[0],b[0],c[0]はEを最小化しません(∵r[k]が全て0にならない限り、E≠F)が、もしも「Fが十分小さくできるような旨いa,b,cが存在する」のであれば、そのa,b,cはEも小さくしますから、出発値に利用できる訳です。
 言い換えると、もしEが十分小さくなるようなa,b,cが存在する(つまり、モデル y=a/(x-b)+cがデータに良く合う)のであれば、Fを最小化するa,b,cと、Eを最小化するa,b,cとは非常に近い値になる。
 なので実用上は、(a[0],b[0],c[0])だけで十分な精度が得られる(改良のための繰り返し計算をしないで済んでしまう)ことも多々あります。

 データ(x[k], y[k]) (k=1,2,...,N)
が与えられた時に、残差(residue)
r[k] = a/(x[k]-b)+c-y[k]
の二乗和(square sum of residue)
E(a,b,c) = Σ(r[k]^2) (Σはk=1,...,Nについての総和)
を最小にする係数(a,b,c)を求む、というのが「y=a/(x-b)+cの最小二乗法」の意味するところですね。

 Eが極値を取る係数(a,b,c)を知るために「Eをa,b,cそれぞれで偏微分したものが0になる」という条件を表す連立方程式
∂E/∂a = 0
∂E/∂b = 0
∂E/∂c = 0
を作ってみますと、左辺を計算すると未知数a,b,cについて一...続きを読む

Q最小二乗法

レポートで最小二乗法を使おうとしているのですが、Y=aX+b を求める時X、Y、X^2、XYをグラフでまとめたのですが、桁数がバラバラです。有効数字を設定すべきでしょうか?それとも正確性を求めてしない方がよいのでしょうか?教えてください。

Aベストアンサー

それぞれの値は有効数字を考慮しますが、a、bを求めるときは桁を目一杯にとって計算しますね。
レポートで個々の値を明記する場合は有効数字は考慮しなければなりません。


このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング