自由度調整済み決定係数

自由度調整済み決定係数とは ― 営業マネジャーのための「変数を足すほど上がる数字」の罠

1. この記事で学べること

2. エピローグ

料理に、スパイスを次々と足していく。

足すほど「手をかけた感」は増していく。

でも、手をかけた感と、実際のおいしさは別の話だ。

足せば足すほど良くなる、とは限らない。

いちこ

手数を増やすほど「やった感」は出ますけど、成果は別ですよね。

シュン

回帰でも同じことが起きるんだ。説明変数を足すほど、当てはまりの数字(R²)は必ず上がる。無意味な変数を足してもね。

プレゼン資料でも思い当たる。

スライドを足すほど、資料は分厚くなる。

厚さ(ボリューム)は増えるが、伝わりやすさが上がるとは限らない。

むしろ増やしすぎると要点がぼやける。

いちこ

増やした分だけ良くなるわけじゃないんですね。

シュン

だから「変数の数」で割り引いて評価する数字が必要なんだ。それが自由度調整済み決定係数だよ。

スパイスの数も、スライドの枚数も、増やすほど「増えた感」は出るが中身は別。

回帰の当てはまりも、同じ罠がある。

3. 自由度調整済み決定係数とは何か

もとになるのは決定係数(R²)だ。モデルがデータをどれだけ説明できたかを0〜1で表す。

R²には弱点がある。説明変数を増やすと、たとえ無意味な変数でも必ず(少なくとも下がらずに)上がってしまう。

そこで、変数の数でペナルティをかけたのが自由度調整済み決定係数(調整済みR²)だ。

• 意味のない変数を足すと、調整済みR²はむしろ下がる
• だから変数の数が違うモデルどうしを、公平に比べられる

複数の説明変数を扱う重回帰分析で特に重要になる。

4. 図で見る

説明変数を1つずつ増やしながら、R²と調整済みR²の動きを見てみる。

• R²は変数を足すほど上がり続ける。
• 調整済みR²は、途中から頭打ちになり、やがて下がる。
• 下がり始めた手前が、変数を足す価値のあった範囲だ。

覚えておきたいのは2つ。

① R²の高さだけでモデルの良さを判断しない。

② 変数の数が違うモデルを比べるなら、調整済みR²で見る。

当てはまりのクセは残差プロットでも確かめられる。

5. 計算式

シュン

教科書的な計算式も紹介しておくね。

いちこ

シーン別の記事では、プロンプトも紹介してくれてますね。まさに生成AIに頼るところですね！

自由度調整済み決定係数。nは標本数、kは説明変数の数

• $R^{2}$: 決定係数
• $k$: 説明変数の数(増やすとペナルティが効く)
• 無意味な変数を足すと $\bar{R}^{2}$ は下がりうる

生成AIに渡せば10秒で計算できる。手計算は不要。

6. まとめ

もとの指標は決定係数、多変数の土台は

いちこ

この統計テーマを使った事例記事も見てみてね♪

• 単回帰分析 ― 1変数の予測から当てはまりを見る
• 残差プロット ― 予測が外れたクセを見つける
• 架電量と成果の関係 ― 当てはまりの数字を過信しない