回帰分析(単回帰、重回帰)において、例えば単回帰では「2つの間には有意な正の相関関係が認められる」という日本語はあり得るのでしょうか。そもそも、回帰分析において相関関係の有意性を検定する検定方法というものが存在するのでしょうか。または、相関係数や決定係数で判断するしかない(例えばr2が0.8以上なら精度が高い)のでしょうか。
また、回帰式や回帰係数の有意性の検定といわれているものは母集団に対する検定ということですので、今回の質問の答えに当てはまらないと考えていますが、この考えは合っているのでしょうか。
No.1
- 回答日時:
> 「2つの間には有意な正の相関関係が認められる」という日本語はあり得るのでしょうか。
普通にあります。
帰無仮説:相関関係がない、対立仮説:正の相関関係がある、とおくと、帰無仮説の下で検定統計量を求めた場合、ある一定水準以下でしか起こらない値となったとき、帰無仮説は棄却され、対立仮説が採択されます。この場合、有意に正の相関関係が認められる、と言います。
> そもそも、回帰分析において相関関係の有意性を検定する検定方法というものが存在するのでしょうか。
存在します。最もメジャーなのはt検定です。これは、係数の推定値が少なくとも漸近的に正規分布に従うことに依拠します。
それから、決定係数は、無意味とは言いませんがあまり意味がないです。例えば、決定係数を上げたければ、何でも良い(乱数でも可)ので説明変数を増やせばよいのですから。
この回答への補足
早速のご回答ありがとうございます。
新たな疑問ですが、t検定とは回帰係数の有意性の検定を指すのでしょうか。回帰式自体を分散分析によってF値から検定する方法でも同じことなのでしょうか。
また、説明変数を増やせば決定係数値は上がりますが、自由度修正済み決定係数であれば問題はないことを考えますと、自由度修正済みであればかなり意味のある係数ではないのでしょうか。
さらに、検定によって有意性(相関がある)が認められたのにも関わらず、決定係数が非常に低い(R2=0.3程度)ケースが見られます。このため、回帰分析の場合、有意性の評価のみではなく決定係数との評価が必要だと考えますがいかがでしょうか。もしくは、私の計算ミス・勘違いなのでしょうか。
なにぶん、統計学をあまり理解しておりませんので見当違いな質問かもしれませんが、よろしくお願いいたします。
No.2ベストアンサー
- 回答日時:
#1です。
補足します。> 新たな疑問ですが、t検定とは回帰係数の有意性の検定を指すのでしょうか。
前回の回答にも書きましたが、係数の推定値は、少なくとも漸近的には正規分布します。また、分散の推定量は漸近的にχ^2分布しますので、t検定を行うことが出来ます。
> 回帰式自体を分散分析によってF値から検定する方法でも同じことなのでしょうか。
回帰式自体の検定を行うと、回帰係数一つ一つに対してではなく、回帰係数全体の検定を行うことになります。したがってt検定と同じではありません。
> 説明変数を増やせば決定係数値は上がりますが、自由度修正済み決定係数であれば問題はない
R^2 は、関数のフィットの良さの指標で、工学では屡々用いられるようであり、あまりこのような議論にはなじみません。
実は、自由度修正済み決定係数でもあまり問題は解消されていませんし、新たな問題(R^2が負になり得る)も発生します。更に問題なのは、この自由度修正の項の理論的な基礎付けがかなり弱いという点です。
研究の場では、普通はモデル選択は、AICまたはBICと呼ばれる情報量基準を用いて行われます。
> 回帰分析の場合、有意性の評価のみではなく決定係数との評価が必要だと考えますがいかがでしょうか。
関心が係数の大きさであれば、そのような評価は無用です。
例えば最小自乗法で
y = b0 + b1 x1 + b2 x2 + u
というモデルが正しいモデルであったが、
y = a0 + a1 x1 + v
というモデルを推定したとします。ここで、最小自乗法で通常おかれる仮定から x1 と v は無相関であったとします。
このとき a1 と b1 は一致します(ただし分散の推定量は x2 によって影響を受けます)が、R^2 は x2 の分だけ小さくなります。
したがって、R^2 がどうであれ係数の推定値は影響を受けないことが分かります。
もし x1 と v が無相関でなかったとしても、操作変数法や GMM といった方法を用いることによって、同様なことが出来ます。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 統計学 回帰分析検証不一致 5 2022/05/04 20:48
- 統計学 回帰分析の際の有意性検定について教えてください。 ・βk = 0 (k ∈ {1, ....,d}) 3 2023/05/04 20:25
- 統計学 重回帰分析の有意性検定について教えて下さい。 データ数は100とする。 y=β0+β1x+β2x+ε 1 2023/05/03 16:42
- 統計学 直線の傾き(回帰係数)から相関係数を計算できるのでしょうか? 2 2022/09/16 19:28
- 統計学 学業成績に関する重回帰分析の見方について 4 2022/06/06 17:19
- 大学・短大 大学 統計学 2 2022/09/18 15:06
- 統計学 統計学の問題です よろしくお願いします 区間推定 母集団は正規分布に従い,母分散は σ2 = 112 1 2023/01/31 18:57
- 統計学 統計学の質問【帰無仮説】 W大学のP学部において、自宅通学者の比率にについて調べたい。 P学部から1 8 2023/05/25 23:28
- 統計学 加重最小二乗法=①「変数を自然対数変換」=②「誤差項の分散の逆数を重み付け」? 8 2022/11/26 11:15
- 統計学 統計学の問題です。よろしくお願いします。 あるサイコロを3回投げると,1の目が2回出た。 1の目が出 4 2023/01/19 15:21
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
回帰分析についてわかる方…
-
ロジスティック回帰分析のモデ...
-
エクセルでのシグモイドのカー...
-
回帰分析って何ですか?
-
ダミー変数の中心化について
-
回帰分析です
-
ダミー変数だけによる重回帰分析
-
EXCELで線形自己回帰分析どこま...
-
重回帰分析(多重共線性)について
-
共分散分析(ANCOVA)で...
-
課題で、ワードで2枚程度という...
-
大学の課題の提出に3分遅れてし...
-
経済学のレポートで扱いやすい論題
-
大学のレポートとか課題って生...
-
一般的に、遅れた課題をメール...
-
レポートで去年の自分のをコピ...
-
昇進論文のを書かないといけな...
-
論文で文献から引用しその引用...
-
大学の課題がめちゃくちゃ多い...
-
期待利得の求め方を教えてくだ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
エクセルでのシグモイドのカー...
-
2変数のばらつき具合をはかる方...
-
単変量解析から多変量解析時の...
-
回帰分析って何ですか?
-
単回帰分析の結果(説明)の書き方
-
回帰分析で「有意な相関がある...
-
Excel 分析ツールの回帰分析の...
-
EXCELの分析ツールの標準残差とは
-
【統計 回帰分析 ダミー変数に...
-
ダミー変数だけによる重回帰分析
-
回帰分析の論文の書き方につい...
-
EXCELで線形自己回帰分析どこま...
-
SPSS17で二項ロジスティック回...
-
エクセルでの重回帰分析
-
ダミー変数について
-
エクセル統計での単変量解析の仕方
-
重相関係数R2と有意F値(p値)に...
-
ダミー変数の中心化について
-
【統計】テストの弁別力について
-
2変量の単調増加性の検定について
おすすめ情報