不偏分散 — なぜ n−1 で割るのか(統計検定2級 6.4)
このページはプロモーション(広告)を含みます。
第6章 標本分布の解説記事
標本から母分散 $\sigma^2$ を推定するとき、偏差平方和を $n$ ではなく $n-1$ で割ります。こうすると推定値の期待値がちょうど $\sigma^2$ になり、平均的に過小評価しない推定量になります。
定義
$$s^2=\frac{1}{n-1}\sum_{i=1}^n (x_i-\bar x)^2,\qquad E[S^2]=\sigma^2$$ 偏差平方和は $\sum(x_i-\bar x)^2=\sum x_i^2-n\bar x^2$ でも計算できる。
$n$ で割った標本分散は $E=\dfrac{n-1}{n}\sigma^2$ となり、小さめに偏る。
$$s^2=\frac{1}{n-1}\sum_{i=1}^n (x_i-\bar x)^2,\qquad E[S^2]=\sigma^2$$ 偏差平方和は $\sum(x_i-\bar x)^2=\sum x_i^2-n\bar x^2$ でも計算できる。
$n$ で割った標本分散は $E=\dfrac{n-1}{n}\sigma^2$ となり、小さめに偏る。
なぜ $n-1$ なのか
本来は母平均 $\mu$ からの偏差で測りたいのですが、$\mu$ は未知なので $\bar x$ で代用します。$\bar x$ はそのデータの偏差平方和を最小にする点なので、$\sum(x_i-\bar x)^2$ は $\sum(x_i-\mu)^2$ より必ず小さくなります。正確には $$\sum(x_i-\mu)^2=\sum(x_i-\bar x)^2+n(\bar x-\mu)^2$$ 両辺の期待値をとると $n\sigma^2=E[\sum(x_i-\bar x)^2]+n\cdot\dfrac{\sigma^2}{n}$ より $E[\sum(x_i-\bar x)^2]=(n-1)\sigma^2$。だから $n-1$ で割ると帳尻が合います。
別の見方では、偏差 $x_i-\bar x$ は合計が必ず0なので、自由に動けるのは $n-1$ 個だけ(自由度 $n-1$)です。
本来は母平均 $\mu$ からの偏差で測りたいのですが、$\mu$ は未知なので $\bar x$ で代用します。$\bar x$ はそのデータの偏差平方和を最小にする点なので、$\sum(x_i-\bar x)^2$ は $\sum(x_i-\mu)^2$ より必ず小さくなります。正確には $$\sum(x_i-\mu)^2=\sum(x_i-\bar x)^2+n(\bar x-\mu)^2$$ 両辺の期待値をとると $n\sigma^2=E[\sum(x_i-\bar x)^2]+n\cdot\dfrac{\sigma^2}{n}$ より $E[\sum(x_i-\bar x)^2]=(n-1)\sigma^2$。だから $n-1$ で割ると帳尻が合います。
別の見方では、偏差 $x_i-\bar x$ は合計が必ず0なので、自由に動けるのは $n-1$ 個だけ(自由度 $n-1$)です。
| 標本分散($n$ で割る) | 不偏分散($n-1$ で割る) | |
|---|---|---|
| 期待値 | $\frac{n-1}{n}\sigma^2$(過小) | $\sigma^2$(不偏) |
| 主な用途 | 手元データの記述 | 母分散の推定、$t$・$\chi^2$・$F$ の計算 |
| $n$ が大きいとき | ほぼ同じ値 | ほぼ同じ値 |
数値例
データ $3,5,7,9,11$($n=5$)。$\bar x=7$、偏差平方和 $=16+4+0+4+16=40$(検算:$\sum x^2=285$、$285-5\times49=40$)。標本分散は $40/5=8$、不偏分散は $40/4=10$。
標本分布とのつながり
正規母集団では $\dfrac{(n-1)S^2}{\sigma^2}=\dfrac{\sum(X_i-\bar X)^2}{\sigma^2}\sim\chi^2(n-1)$。$\chi^2(k)$ の平均は $k$ なので、ここからも $E[S^2]=\sigma^2$ が読み取れます。母平均の $t$ 区間や母分散の区間推定はこの関係を使います。
ひっかけ
・$S^2$ が不偏でも、その平方根 $S$ は $\sigma$ の不偏推定量ではありません(平均的にやや小さい)。
・$\mu$ が既知なら $\sum(x_i-\mu)^2/n$ が不偏。$n-1$ にするのは $\mu$ を $\bar x$ で推定したからです。
・正規分布の最尤推定量は $n$ で割るほう(不偏ではない)。「最尤=不偏」ではありません。
・電卓やソフトの出力が $n$ 割りか $n-1$ 割りかを、問題文の定義で必ず確認。
・$S^2$ が不偏でも、その平方根 $S$ は $\sigma$ の不偏推定量ではありません(平均的にやや小さい)。
・$\mu$ が既知なら $\sum(x_i-\mu)^2/n$ が不偏。$n-1$ にするのは $\mu$ を $\bar x$ で推定したからです。
・正規分布の最尤推定量は $n$ で割るほう(不偏ではない)。「最尤=不偏」ではありません。
・電卓やソフトの出力が $n$ 割りか $n-1$ 割りかを、問題文の定義で必ず確認。
得点のコツ
問題に偏差平方和 $S_{xx}$ が与えられたら、割る数だけを変えれば両方が一瞬で出ます。「推定」「不偏」「$t$ 検定」の文脈なら $n-1$、「このデータの分散」なら問題の定義に従う、と覚えておきましょう。
問題に偏差平方和 $S_{xx}$ が与えられたら、割る数だけを変えれば両方が一瞬で出ます。「推定」「不偏」「$t$ 検定」の文脈なら $n-1$、「このデータの分散」なら問題の定義に従う、と覚えておきましょう。
統計検定2級 合格ナビ:統計検定2級の問題集アプリ。本番と同じ5択・数値表と電卓で解くオリジナル問題173問と、35問90分の模擬試験。解説記事・公式集・数値表と第1・2章の問題は登録なしで無料。全問は1,480円の買い切り。
アプリを無料で開く有料版と無料版の違い