回帰係数の検定
更新日:
この記事で扱う統計知識
回帰係数の検定とは ― その関係、本当に意味があるのか
1. この記事で学べること
いちこ
まとめ
・回帰係数を検定する意味がわかる ・「関係があるように見える」と「統計的に意味がある」の違いがわかる ・回帰分析の結果をそのまま信じてはいけない理由がわかる
2. エピローグ
「勉強時間が長いほどテストの点が上がる」という仮説を、自分の1週間の記録で確かめてみたことがあった。
5日分のデータで回帰直線を引いてみると、確かに右上がりの式ができた。
「勉強時間が1時間増えるごとに、点数が3点上がる」という関係が出た。
でも、たった5日分のデータから出したこの式を、そのまま信じていいのか、ふと疑問に思った。
たまたま5日間がそういう並びだっただけで、本当は勉強時間と点数にそこまで強い関係がないかもしれない。
シュン
会社の先輩が、「広告費と売上」の関係を分析していたときの話を聞いた。
過去のデータから回帰式を作ると、「広告費が増えるほど売上が増える」という関係が出てきた。
でも先輩は、その式をすぐには報告しなかった。
「この関係が、本当に意味のあるものか、それともたまたまなのか、確認してから報告しよう」
・勉強時間とテストの点数の関係 ・広告費と売上の関係
2つに共通しているのは、 「回帰式ができたからといって、その関係が本当に意味があるとは限らない」ということだ。
この「求めた関係が偶然でないかを確かめる」作業が、回帰係数の検定だ。
3. 回帰係数の検定とは何か
回帰係数の検定とは、回帰分析で求めた傾き(回帰係数)が、統計的に意味のある値と言えるかを確かめる検定だ。
ポイント
「傾きが0ではない(=xとyに関係がある)」という仮説を検定する。傾きが統計的に0と区別できない場合、その関係は「意味がある」とは言えない。
なぜ必要なのか
回帰分析は、少ないデータからでも計算上は必ず何らかの直線を引ける。 しかし、その直線の傾きが「本当に意味のある関係」なのか、それとも「たまたまそう見えるだけ」なのかは、別途検定で確かめる必要がある。
4. 図で見る
5日分のデータで作った回帰式のp値を確認してみる。
このデータで回帰係数を検定すると、p値は0.02だった。 p<0.05のため、「勉強時間と点数の関係は偶然とは考えにくい」と判断できる。
一方、データの点がもっとバラバラだった場合、同じような回帰直線が引けても、p値は0.05を超え、「関係があるとは言えない」という結論になることもある。
シュン
ここで2つのことを覚えておいてほしい。
① 回帰式が作れることと、意味があることは別 データさえあれば直線は必ず引けるが、その傾きが統計的に意味があるかは検定で確かめる必要がある。
② p値が大きい(有意でない)ときは慎重に扱う 回帰係数の検定でp値が0.05を超える場合、その関係を強く主張することは避け、参考程度に留めるべきだ。
注意
サンプル数が少ないと、たまたま強い関係に見える回帰式ができやすい。データ数が十分か、検定結果と合わせて確認しよう。
5. まとめ
まとめ
・回帰係数の検定は、求めた傾きが統計的に意味のある値かを確かめる検定 ・回帰式が作れても、その関係が偶然でないとは限らない ・p値が小さいときのみ、「その関係は偶然ではない」と言える
いちこ
理解度をチェックしよう
「回帰係数の検定」の3問クイズに挑戦
