微分方程式と回帰分析の予測方法の違い

こんにちは。数学苦手なのでマンガでわかるシリーズで勉強してます。

いま、微分方程式のを読んでいます。読んでいると、

微分方程式は「現実の現象（たとえば、飛行機の運動など）をモデル化して、微分方程式を解いて、解（関数）を出して、その関数を使って現実の現象を予測する」らしいことがわかりました。

ところで、私は統計のほうで回帰分析などを使うことがあるのですが、回帰分析も現実の現象（たとえば、身長と体重）を数式にして、たとえば、身長から体重を予測したりします。

この二つを比べると現象の予測という同じようなことをしてる気がしてなりません。

では、微分方程式と回帰分析は何が違うのでしょうか。同じものなのでしょうか・・・。

数学のカテゴリーだと回帰分析が統計だからちょっと違う気もするのですが、回帰分析も数式を使うから数学だからと思ってここで質問しました。

ご存じの方いらっしゃいますか。

No.2 ベストアンサー 回答者： alice_44 回答日時： 2012/03/22 21:12

「ラブラスの魔」をご存知ですかね。

初期条件が全て解れば、未来は正確に予想し得る
…という、近代数理科学の中心的教条で、
今となっては、少々古臭い考え方です。

この考え方に立って未来を予想しよう
というのが、微分方程式の基本的な発想。
素朴で、夢多く、大雑把な分だけ強力な道具です。

逆に、正確な予想を全く諦めることによって、
せめて誤差評価において厳密であろうとするのが
統計学の立場。
微分方程式による数理モデルとは対照的な
アプローチであろうと思います。

この回答へのお礼

わかりやすいご回答ありがとうございます！！

ラプラスの悪魔って調べてみました。面白いです。

今となっては少し古臭いのは、不確定性原理が出てきて正確な観測ができないからラプラスの悪魔はムリってことになってるからですよね。

微分方程式がラプラスの悪魔的な予測で、その完全な正確さをあきらめて誤差を許容するのが統計学の立場ですか。この二つは似てるけど、そういう違いがあったんだ！！

お礼日時：2012/03/22 23:02

No.3 回答者： stomachman 回答日時： 2012/03/23 05:03

ANo.1に付けられたコメントについてです。

> 何が違うのかあまり理解できてないです

　微分方程式と回帰式に本質的な違いはない、というのがANo.1の主旨です。だから、もし違いが分かるようなら、それはANo.1の説明が悪いということになります。

　以下、繰り返しっぽくなりますけど「微分方程式と回帰式の違いのなさ」と、統計というものの特質に焦点を当てて説明を追加します。


[1]違いのなさとその理由

> 事実、微分方程式の解の関数も、回帰分析の回帰式も数式が出ます。

　既にご理解いただけているのではないかと思いますが、数式ならなんでも良いというわけではありませんね。微分方程式を何の条件もつけずに単独で解いたとすると、その解には未知のパラメータが含まれていて、「計算すれば答えが出る何らかの数式」にはまだなっていない。観測して得たデータで決まる初期条件あるいは境界条件を与えることによって、初めて、具体的な「その状況」における「計算すれば答えが出る何らかの数式」としての解が得られます。
　回帰式もまた、係数（パラメータ）が未知のままでは「計算すれば答えが出る何らかの数式」ではないですね。これも、観測して得たデータにモデルがうまくあてはまるようにパラメータを決めてやることで、「計算すれば答えが出る何らかの数式」になる。
　なので、どちらも「パラメータが決まれば「計算すれば答えが出る何らかの数式」になるようなフレームワーク」であることに違いはありません。

　さらに、たとえばパラメータa[0], a[1], …, a[N]を含む線形回帰式
　　 f(x[1], x[2], …, x[N]) = a[0]+a[1]x[1]+a[2]x[2]+…++a[N]x[N]
ならば、
　　(∂^2)f/(∂x[i]∂x[j]) = 0 (i, j=1,2,...,N)
という連立微分方程式で表すこともできます。非線形の
　　f(x) = a[1] e^(-x/a[2])+a[3]
という回帰式なら、微分方程式
　　a[2](df/dx)+f=0
で表されます。すると、これらの回帰式は、実は微分方程式と同じ事ですね。

[2] 「回帰式」は使われ方の名称である
　微分方程式の一般解（いくつかのパラメータを含む解 ）は、データを使ってそのパラメータを決めようとする際に、回帰式として扱われることになります。微分方程式以外のモデルであっても、データを使ってそのパラメータを決めようとする際に、回帰式として扱われるのは同じことです。
　これはどういうことか。
　要するに、「微分方程式」と「回帰式」という異なる二つのものがあるのではない。ただ、その表し方の違いや、扱う目的の違いによって呼び分けているだけなのです。いや、もっと正確に言うと、こうなります：
　(1) モデルとしてはどんな式でもアリで、中には微分方程式の形で表せるものもある。
　(2) 未知のパラメータを含むモデルについて、データを使ってパラメータの値を最も適切に決めようとする作業に際して、そのモデルは「回帰式」と呼ばれる。

　だから、「微分方程式と回帰式を対比する」という考え方の図式自体が少々おかしいんです。まるで「正方形と車輪を対比する」ようなもの、という感じでしょうか。

[3] 「微分方程式は決定論的で、回帰式は確率的」という見方は見当違い
　なぜなら、第一に、微分方程式で「現象を予測」するとは言っても、その予測が決定論的であるとは限りません。量子力学の基礎方程式も微分方程式ですし、確率現象も微分方程式（確率微分方程式）で記述される場合が多々あります。これらの場合、確率分布を予測するための法則だけが分かっているのであって、現実にどんな値が実現するか、という所までは予測できません。
　第二に、「ニュートン力学の微分方程式のように、（確率分布を予測するのではなく）決定論的な値を予測するような微分方程式の場合に限れば、当然予測は決定論的だろう」と考えたら、これまた間違いです。なぜなら、微分方程式がいくら「もし完璧なデータが与えられたら決定論的な予測ができるようなフレームワーク」であっても、完璧でないデータ（測定誤差や原理的なゆらぎを含む）でパラメータを決めると、予測できるのは確率分布だけだからです。ラプラスは「ある瞬間における、全宇宙のあらゆる粒子の位置と運動量が正確に分かりさえすれば、以後のあらゆる現象を予測できる」と考えた（これが力学的決定論です）が、たとえこの宇宙が決定論的法則に従っていたとしても、「ある瞬間における、全宇宙のあらゆる粒子の位置と運動量を正確に」測定することはできないわけで、従って、確率分布を予測するのが精一杯です。（なお、決定論と、エントロピーの話に出て来る「ラプラスの魔」との間には、直接の関係はありません。混乱なさらぬよう。）
　要するに、どんなモデルであれ、そのパラメータを決める際（つまり回帰式として扱われる際）には、パラメータを決めるために使ったデータに含まれていた測定誤差や揺らぎの影響を受けますから、当然、確率分布を予測する以上のことはできないわけです。


[4] 科学に於けるモデル（理論・法則）と統計
　統計ってのは、「過去のデータから何らかの傾向を読み取ろう」ってことですが、ただ単にデータを並べるだけでなく、何らかのモデル（たとえば、それは確率論を使ったモデルかも知れません）を導入することで、より豊かな結果を得ようとするものです。
　統計の応用としてことに重要なのは「実験して得られたデータ（過去のデータ）が、（微分方程式などで書かれた）モデル（すなわち理論・法則）で予測される値（あるいは確率分布）と矛盾していることを示す兆候が見つけられないか」という問題に用いる場合です。あるモデルの妥当性を、それを統計のモデルとして用いることで検査しようという訳です。しかし、データには測定誤差（や不確定性に起因する原理的な揺らぎ）が含まれていますから、モデルによる予測値が一意的に決められる訳ではない。このため、一つデータを取っただけでは「矛盾している」とは言えないのが普通です。なので、沢山のデータを用いる。そして、「モデルと実験データが矛盾するから、モデルは修正を要する」という結論か、あるいは「モデルと実験データの矛盾が見つからないので、モデルが正しいとも誤りとも言えない」という結論か、どちらか一方を導き出します。
　なので、科学において、統計解析は、実験とモデルを突き合わせて矛盾（モデルの不備）を見つけるための唯一の道具なのです。

[5] 非科学的応用
　もちろん統計解析には、科学とはまた別の使い方があります。「実用上ある程度の予測ができりゃいいや」と割り切って、いい加減なモデルだということは承知の上で、過去のデータを使って簡単なモデル構成する、というのがその使い方です。

この回答へのお礼

ありがとうございます。

No.1の回答は回帰分析と微分方程式は同じもの（違いはない）ということだったのですね。

（１）について

回帰式を微分方程式で表せるとのこと、数式の理解はできないのですが、書き換えできるということは表現は違うが同じものを見ているということですね。

（２）について

回帰式というのは使われ方の名称だったのですね。微分方程式で表現されたものがパラメータを決めようとすると回帰式として扱われるというような。

（３）について

測定誤差のあるデータを使えば、微分方程式であろうと、決定論的ではないということでしょうか。難しいです。

（４）について

統計はモデルを使っているということですね。あるモデル（数式で表現される）がある現象を説明するのに適していて、それは確率分布が元になっているという感じでしょうか。

（５）について

おおざっぱな予測を作るのは回帰分析でも微分方程式でも簡単だよ、というふうに理解しました。


だいぶ、難しい回答だったので一読では理解できず放置してしまってました。すみません。

お礼日時：2012/04/06 16:10

No.1 回答者： stomachman 回答日時： 2012/03/22 17:24

　現実の現象をモデル化したというけれども、そのモデルが現実と合っているかどうかをきちんと評価できるためには、そのモデルは定量的な予言能力を持たねばなりません。

そのためには、モデルは「計算すれば答えが出る何らかの数式」になっている必要があります。話の要点はそれだけ。

　モデルをどんな式で表すかはどうでもいい事です。微分方程式で表す場合、その方程式だけでは「計算すれば答えが出る」ということにはなりませんで、初期条件あるいは境界条件を付け加えて初めて「計算すれば答えが出る」状態になる。言い換えれば、微分方程式は一般的な「法則」を表していて、「法則」に具体的な状況を表す条件を突っ込んでやると「計算すれば答えが出る」モデルが得られるという仕掛けになっています。微分方程式に限らず、モデルの式の中に、現実の現象に合わせて調節する「パラメータ」を含んでいて、パラメータに具体的な数値を入れて初めて、「計算すれば答えが出る何らかの数式」という形になる、そういう「パラメータを含むモデル」を作る&使うのが普通です。
　たとえば、石ころを放り投げたらどんな軌跡(x(t), y(t))を描いて飛ぶか、というのをパラメータを含むモデル
　　x(t)=ut, y(t)=vt-g(t^2)/2
で表すと、パラメータはu（水平方向の初速）、v（鉛直方向の初速）、g(重力加速度）です。
　「パラメータを含むモデル」と「現実の現象」のデータがうまく合うようなパラメータを求める、という計算（当て嵌め, fitting）は非常に多くの様々な場面で応用されます。たとえば「地上(g=9.8m/(s^2))で石ころを投げたら最高高度が10mだった」というデータがあれば、モデルからy(t)が最大10mになるようなパラメータの値はいくらか、という計算ができて、（直接測定してはいない）鉛直方向の初速が（直接測定した、石ころの最高高度から）分かるわけです。

　統計の回帰分析は、おおまかに言って二通りの使い方ができます。ひとつは、「法則」に相当する「パラメータを含むモデル」は分かっている、という状況で、過去の多数のデータ（誤差を含む）があるとき、それら全部のデータを勘案して「パラメータを含むモデル」と「（過去の）現実の現象」のデータが最もうまく合うようなパラメータを決めるのに使う。これによって、データを発生させた現象に関して、直接は測定できないある性質（上記の例なら石ころの初速のような）が間接的に測定できます。
　もうひとつは、「法則」は分からないが、過去の経験をとりまとめて「計算すれば答えが出る何らかの数式」としての一つの近似的なモデルを作ろう、という場合。「法則」が未知なので、多変数の一次式のような簡単なモデルでこれを近似しちゃえ、というスタンスです。得られたモデルは、未来がどうなるか推測する手段として用いられます。が、それだけが使い途ではない。モデルの式から逆に「法則」を推測するのに使う、という用途もとても重要です。たとえば、一次式だけで作ったモデルとデータを比較すると、残差（モデルによる予測と実際のデータとの不一致）が系統的に奇麗な曲線を描く、ということが見いだされる場合、それは「もっと高次の項を含んだモデルの方が適切である」ということを強く示唆しています。
　いずれにしても、パラメータを調節して、最もうまく「（過去の）現実の現象」の多数の（誤差のある）データを説明できるようにする、という作業の部分が回帰分析（だけじゃない、「パラメトリック」と分類されるいろんな統計手法も）に相当しています。

この回答へのお礼

ありがとうございます。なんだかむずかしくって理解が苦しいです(^_^;

微分方程式も回帰分析も現実の現象をモデル化する手法で、両者とも「計算すれば答えが出る何らかの数式」になっていることが重要なのですね。この点は理解できます。事実、微分方程式の解の関数も、回帰分析の回帰式も数式が出ます。

微分方程式によって現象を予測する際には、解として出た関数の他に「初期条件あるいは境界条件を付け加える」必要があるのですね。この付け加える部分がパラメータという部分だと思いました。

回帰分析で現象を予測する際には、やはりパラメータが必要で、「パラメータを調節して、最もうまく「（過去の）現実の現象」の多数の（誤差のある）データを説明できるようにする」わけですね。

ここまでから考えると、やはり、微分方程式と回帰分析は現象の予測について数式を作ってパラメータの設定をしているし似ていると思うのです。何が違うのかあまり理解できてないです。ごめんなさい。

お礼日時：2012/03/22 23:11