回帰出力表の読み方(最頻出)(統計検定2級 10.2)
このページはプロモーション(広告)を含みます。
第10章 線形モデルの解説記事
回帰分析の問題の多くは、統計ソフトの出力表を読んで空欄を埋めたり、結果を解釈したりする形で出題されます。表の各列の関係(推定値 ÷ 標準誤差 = t 値 など)を押さえれば、計算はほとんど割り算とかけ算です。
出力表の基本関係(説明変数 $p$ 個、データ $n$ 個)
t 値 $=\dfrac{\text{推定値}}{\text{標準誤差}}$($H_0:\beta_j=0$ の検定統計量)、自由度 $n-p-1$
$\beta_j$ の $95\%$ 信頼区間:$\hat\beta_j\pm t_{0.025}(n-p-1)\times\text{SE}(\hat\beta_j)$
F 値 $=\dfrac{S_R/p}{S_E/(n-p-1)}$、自由度 $(p,\ n-p-1)$
$R^2=\dfrac{S_R}{S_T}$、自由度調整済み $R^2=1-\dfrac{S_E/(n-p-1)}{S_T/(n-1)}$
単回帰($p=1$)では F 値 $=$(傾きの t 値)$^2$
t 値 $=\dfrac{\text{推定値}}{\text{標準誤差}}$($H_0:\beta_j=0$ の検定統計量)、自由度 $n-p-1$
$\beta_j$ の $95\%$ 信頼区間:$\hat\beta_j\pm t_{0.025}(n-p-1)\times\text{SE}(\hat\beta_j)$
F 値 $=\dfrac{S_R/p}{S_E/(n-p-1)}$、自由度 $(p,\ n-p-1)$
$R^2=\dfrac{S_R}{S_T}$、自由度調整済み $R^2=1-\dfrac{S_E/(n-p-1)}{S_T/(n-1)}$
単回帰($p=1$)では F 値 $=$(傾きの t 値)$^2$
なぜ残差の自由度は $n-p-1$ なのか
係数は切片を含めて $p+1$ 個推定しており、残差はその数だけ制約(正規方程式)を満たします。自由に動ける残差は $n-(p+1)$ 個です。残差の分散も $S_E/(n-p-1)$ で推定するので、t 値や F 値の自由度もこの値になります。
係数は切片を含めて $p+1$ 個推定しており、残差はその数だけ制約(正規方程式)を満たします。自由に動ける残差は $n-(p+1)$ 個です。残差の分散も $S_E/(n-p-1)$ で推定するので、t 値や F 値の自由度もこの値になります。
| 列・項目 | 読み方 |
|---|---|
| 推定値(係数) | 他の説明変数を一定としたとき、その変数が1増えると $y$ が平均でどれだけ変わるか |
| 標準誤差 | 推定値のばらつき。小さいほど精度が高い |
| t 値 | 推定値/標準誤差。絶対値がおよそ 2 以上なら 5% で有意の目安 |
| p 値 | $H_0:\beta_j=0$ の両側 p 値。$\alpha$ 以下で「効果あり」 |
| F 値と p 値 | すべての係数が 0 か(モデル全体が役立つか)の検定 |
数値例
$n=22$、説明変数2つ($p=2$)の重回帰で、残差の自由度は $22-2-1=19$。
| 変数 | 推定値 | 標準誤差 | t 値 | p 値 |
|---|---|---|---|---|
| 切片 | 4.00 | 1.60 | 2.50 | 0.022 |
| $x_1$ | 1.50 | 0.60 | (ア) | 0.022 |
| $x_2$ | 0.20 | 0.25 | (イ) | 0.434 |
- (ア)$1.50/0.60=2.50$、(イ)$0.20/0.25=0.80$。$t_{0.025}(19)=2.093$ と比べ、$x_1$ は 5% で有意、$x_2$ は有意でない。
- $\beta_1$ の 95% 信頼区間:$1.50\pm2.093\times0.60=1.50\pm1.256$ より $[0.244,\ 2.756]$。0 を含まないことが有意と対応します。
- $S_T=100$、$R^2=0.60$ なら $S_R=60$、$S_E=40$。$F=\dfrac{60/2}{40/19}\approx14.25$ で、$F_{0.05}(2,19)=3.52$ を大きく超える。調整済み $R^2=1-\dfrac{40/19}{100/21}\approx0.558$。
- $x_1=3$、$x_2=5$ の予測値:$4.00+1.50\times3+0.20\times5=9.5$。
ひっかけ
- 信頼区間に 1.96 を使うミス。自由度 $n-p-1$ の t 分布の値を使います。
- 係数の大きさで変数の重要度を比べない。単位が違えば係数も変わります。重要度の目安にするなら t 値や p 値です。
- 重回帰の係数は「他の変数を固定したとき」の効果で、単回帰の傾きとは一般に一致しません。
- 「有意でない ⇒ 効果がゼロ」とは言えません。
得点のコツ
空欄補充は「t=推定値÷SE」「$S_E=(1-R^2)S_T$」「F=平均平方の比」「単回帰は $F=t^2$」の4つでほぼ解けます。自由度 $n-p-1$ を最初に書き出しておくと、t 表・F 表を引くときに迷いません。平方和の意味は「回帰モデルと平方和の分解」の記事を参照してください。
空欄補充は「t=推定値÷SE」「$S_E=(1-R^2)S_T$」「F=平均平方の比」「単回帰は $F=t^2$」の4つでほぼ解けます。自由度 $n-p-1$ を最初に書き出しておくと、t 表・F 表を引くときに迷いません。平方和の意味は「回帰モデルと平方和の分解」の記事を参照してください。
統計検定2級 合格ナビ:統計検定2級の問題集アプリ。本番と同じ5択・数値表と電卓で解くオリジナル問題173問と、35問90分の模擬試験。解説記事・公式集・数値表と第1・2章の問題は登録なしで無料。全問は1,480円の買い切り。
アプリを無料で開く有料版と無料版の違い