非線形モデル回帰分析の前提条件

非線形回帰分析で、従属変数の母集団は正規分布を仮定できる必要はありますか？
回帰分析では従属変数の母集団は正規分布を仮定できる必要があると思いますが、これは線形の時だけでしょうか、それとも、非線形でもそうなのでしょうか？

No.3 回答者： ramayana 回答日時： 2011/02/27 08:46

ANo.2さんへの反論めいたものになりますが…。

応用分野によって、回帰分析の考え方が違うのかもしれません。

説明変数、被説明変数ともに時系列データで、時間とともに増大する傾向があるケースがあります。このケースでは、説明変数や被説明変数が正規分布に従うことは、望むべくもありません。こういうケースを、回帰分析になじまないものと切り捨ててしまうとなると、応用範囲を狭めてしまうことになります。

また、線形最小２乗法で使われる多くの特性（最尤法でもあること、不偏推定であること、係数パラメータの推計値が正規分布に従うことなど）は、説明変数、被説明変数が正規分布に従うことを仮定していません。

なお、はずれ値の判定に関しては、説明変数、被説明変数が正規分布に従っていないケースでも、何らかの確率モデルは想定されているわけですから、それなりの判定方法があります。

No.2 回答者： kamiyasiro 回答日時： 2011/02/26 10:31

#1さんの回答は，間違って解釈すると危険です．

＞線形モデルであっても、従属変数に正規分布を仮定することは、普通しないと思います。
＞普通は、残差が正規分布であることを仮定します。

本来，重回帰分析では，
従属変数（説明変数）も多次元正規分布空間であることを前提としています．
説明変数x軸において，xの平均から著しく離れた点があれば，回帰線はその点に引っ張られます．

#1さんの回答を意地悪に解釈すれば，
x＝0 と x＝100 のみで観測したサンプルだけを使っても良く，
その時は，あたかも籠の竿を両はしで支えるが如く，回帰線が安定しますが，
それは，本質とは異なります．

この横軸上の離れ方を「てこ比」といい，
多くの統計ソフトではサンプルの善し悪しを見る指標としてリストしてくれます．
通常，あるサンプルのてこ比が全サンプルのてこ比の平均の2.5倍以上のときは，
そのサンプルを除外することが推奨されます．

当然，非線形回帰分析（ロジスティック回帰分析など）でも，
てこ比の大きなサンプルは要注意ですので，
なにも分布の制約がないわけではありません．

No.1 回答者： ramayana 回答日時： 2011/02/23 22:18

線形モデルであっても、従属変数に正規分布を仮定することは、普通しないと思います。

普通は、残差が正規分布であることを仮定します。

非線形モデルは、ケースによるのではないでしょうか。例えば２次関数Y = aX^2+bX+c+U （Uは残差）なら、定数項を入れて3変数の線形モデルとみなせるので、Uに正規分布を仮定することが多いと思います。従属変数が2値のロジットモデルやプロビットモデルなら、別の確率空間が想定されます。