残差プロット — 回帰モデルの前提チェック（統計検定2級 S2.3）

このページはプロモーション（広告）を含みます。

補足資料の解説記事

回帰直線を当てはめたら、それで終わりではありません。「直線で表してよかったのか」「ばらつきは一定か」を確かめるのが残差プロットです。決定係数が高くても、残差を見るとモデルの欠陥がわかることがよくあります。

定義
残差 $e_i=y_i-\hat y_i$。横軸に説明変数 $x_i$（または予測値 $\hat y_i$）、縦軸に $e_i$ をとった図が残差プロット。最小二乗法では常に$$\sum e_i=0,\qquad \sum x_i e_i=0$$

なぜ残差を見るのか
回帰分析では、誤差が「平均0、分散一定、互いに独立」であることを前提にしています。モデルが正しければ残差にはこれらの性質が現れ、0 のまわりに規則性なくばらつくはずです。何らかの形が見えるなら、それはモデルが取りこぼした構造です。

パターンの読み方

残差プロットの形	意味	対処の例
0 のまわりに一様な帯	問題なし	そのまま使う
U字・逆U字の曲線	関係が非線形	2次項を入れる、変数変換
右に行くほど広がる（ラッパ型）	分散が一定でない	対数変換など
1点だけ大きく離れる	外れ値	記録ミスの確認、影響の評価
時間順に並べると波打つ	誤差に自己相関	時系列モデルを検討

数値例：決定係数が高いのに曲がっている

$x=1,2,3,4,5$、$y=1,4,9,16,25$（$y=x^2$）に回帰直線を当てはめます。$\bar x=3,\ \bar y=11$、偏差積和 $60$、$x$ の偏差平方和 $10$ より $b=6$、$a=11-18=-7$。予測値は $-1,5,11,17,23$ で、残差は $2,\ -1,\ -2,\ -1,\ 2$。
決定係数は $R^2=360/374\approx0.96$ と非常に高いのに、残差はきれいなU字を描きます（図1）。直線モデルが不適切なことは、$R^2$ ではなく残差プロットで初めてわかります。

ひっかけ

「残差の合計が 0 なのでモデルは適切」は誤り。最小二乗法では、モデルが間違っていても残差の合計は必ず 0。
「$R^2$ が 0.9 以上なので直線で十分」も誤り。上の例のように曲線でも $R^2$ は高くなりうる。
残差のばらつきが広がる形は「非線形」ではなく「分散が一定でない」ことを示す。形とその意味を正しく対応させる。

得点のコツ
選択肢で残差プロットを解釈させる問題は、(1) 平均的な位置が曲がっているか（線形性）、(2) 幅が変わるか（等分散性）、(3) 飛び離れた点があるか（外れ値）、の3点を順にチェックすれば解ける。

統計検定2級合格ナビ：統計検定2級の問題集アプリ。本番と同じ5択・数値表と電卓で解くオリジナル問題173問と、35問90分の模擬試験。解説記事・公式集・数値表と第1・2章の問題は登録なしで無料。全問は1,480円の買い切り。

アプリを無料で開く有料版と無料版の違い