単回帰分析における回帰係数を多重比較したいのですが

単回帰分析で得られた３個以上の回帰式の回帰係数について有意差があるのか検定したいと思っています。
２個の回帰式を比較する検定については文献を見つけたのですが、
３個以上の場合の事例を見つけられません。
ボンフェローニの方法やホルムの方法、チューキーの方法で行っても
理論的には問題はないのでしょうか？
よろしくお願いします。

No.5 ベストアンサー 回答者： kamiyasiro 回答日時： 2021/10/03 08:59

#4です。

私、読み落としていました。

頂いたコメントの中段に書いてあるように「回帰係数の差の推定値の分散」を求めて、検定するのですね。
だったら、問題ありません。お騒がせしました。すみません。

t検定ですので、テューキーで良いと思います。

この回答へのお礼

本当にご丁寧にアドバイス頂きありがとうございました。

お礼日時：2021/10/03 09:09

No.4 回答者： kamiyasiro 回答日時： 2021/10/02 08:46

#3です。

コメントありがとうございました。

やっぱり、回帰残差を使っているのですね。

でも、平行性の検定と異なる点は、二つの回帰式を併合をしてよいかの判断だということです。これは平行ではなく、切片をも共通化するということであり、本当にこれで良いのか悩んでいます。

ご質問者様のやりたいことは、
「回帰式の『回帰係数β』について有意差があるのか」でしたよね。
具体的には、
①傾きβが同じなのか・・・平行性の検定
②各群は同一モデルに従っているか、別のモデルなのか・・・奥野の検定
のどちらでしょうか。

②は全データが一本の線に乗るか、という期待があります。
一本の線に乗せても、個々に回帰したときに比して、そんなに残差が増えなければOKだと考えているのです。

でも、たとえ平行でも『切片が大きく異なっている』ときにそれをやれば残差は悪化するに決まっています。

結論をミスリードする可能性があります。

No.3 回答者： kamiyasiro 回答日時： 2021/09/28 16:09

#1です。

私は、回帰の有意性検定（β＝0ではないことの検定）しか見たことがありませんので、非常に興味があります。

テューキーの多重比較を使うにしても、問題は、単回帰係数の標準偏差をどうするかですよね。

V(β)＝σ res^2／Sxx ですが、これは回帰変動ですからね。有意性検定のときはこれで良いと思います。

繰り返し単回帰分析したときの誤差をどう定義するのか。自由度はいくらか。２個の比較でやっているケースを知りたいです。

是非、教えて下さい。

この回答へのお礼

「応用統計ハンドブック（奥野忠一編著,養賢堂）」のp.105にふたつの回帰式を併合をしてよいかの判断手法として取り扱われています。
なお、回帰残差の母分散σ^2は共通であるとの仮定があります。
σ^2の最良不偏推定値Veは
Ve=((n1-2)Ve1+(n2-2)Ve2)/(n1+n2-4)
=(Se1+Se2)/(n2+n2-4)
(※n1,n2はそれぞれ第1,2組のサンプル数,Ve1,Ve2はそれぞれ第1,2組の回帰残差の分散,Se1,Se2はそれぞれ第1,2組の回帰残差の平方和）

βは回帰係数のことですよね？
第1,2組の回帰式の回帰係数をそれぞれβ1,β2とすると、
回帰係数の差の推定値の分散V[β1-β2]は以下で与えられるとのことです。
V[β1-β2]=V[β1]+V[β2]=((1/S1xx)+(1/S2xx))σ^2
（※S1xx,S2xxはそれぞれ第1,2組のxの平方和）
標準誤差の推定値s[β1-β2]=(((1/S1xx)+(1/S2xx))Ve)^(1/2)
t=(β1-β2)/s[β1-β2]
このt値を自由度n1+n2-4でt分布表の数値と比べるとのことです。

チューキーであればこのt値をチューキー用の表と比較したらいいのかなと思っています。ボンフェローニやその改良法であればt値から統計ソフトでp値を得て、それぞれの方法の手順にしたがって判断すればいいのかなと思っています。

お礼日時：2021/10/02 06:24

No.2 回答者： stomachman 回答日時： 2021/09/27 16:03

多重検定補正で良いと思います。

もっとも、検定（p値を有意差アリ／ナシの2値に切り分けて見せること）に意味があるかどうか自体について、近頃は批判が多いようですが。

この回答へのお礼

自分以外の方かも多重検定補正で良いとのお答えいだき少し自信が持てました。
検定に意味があるかどうか自体の批判があるのは私も承知しています。多重比較では比較する群数が増えると有意差が出にくくなるって、納得できるような、でも、なんか屁理屈にも感じますし。でも、検定に全く意味がないとも思いません。検定という作業は客観的なデータの解釈に役立つとは思います。ありがとうございました。

お礼日時：2021/10/02 05:37

No.1 回答者： kamiyasiro 回答日時： 2021/09/25 10:34

共分散分析という手法の手順に「平行性の検定」というのがあるのですが、それは、AvsB，AvsC，BvsCと検定を繰り返すのではなく、Ａ，Ｂ，Ｃを同時に分散分析に掛けます。

このデメリットは、「差がある」という結論が出ても、どの係数間に差があるかは分からないという点です。

それでは都合が悪いのでしょうか。というか、それを踏まえてのご質問でしょうね。

お役に立てずすみません。

https://chemstat.hatenablog.com/entry/2020/10/04 …

この回答へのお礼

ありがとうございます。
共分散分析についてはよく知りませんでした。
平行性の検定というのがあるのですね。

ただ、おっしゃるとおり、どの係数間に差があるのかといった検定がしたいです。
単純に２個の係数間であればt分布による検定ができるようなので、
３個以上の係数間であれば、ボンフェローニ法などのような有意水準を調整する方法を適用すればいいのかなと思ったのですが、具体的な事例や解説が見当たらず、おうかがいした次第です。

お礼日時：2021/09/25 19:14