なぜ推定した母数の分だけ自由度を引くのか(統計検定2級 S5.1)
このページはプロモーション(広告)を含みます。
補足資料の解説記事
適合度検定で「ポアソン分布に従うか」を調べるとき、平均 $\lambda$ をデータから推定すると自由度がさらに1つ減ります。これは、推定した分だけ期待度数がデータに寄り添い、$\chi^2$ 値が小さく出やすくなるのを補正するためです。
適合度検定の自由度
$$\text{自由度}=(\text{カテゴリー数}\ k)-1-(\text{データから推定した母数の数}\ m)$$ ・$-1$:度数の合計が $n$ に固定されている制約
・$-m$:推定した母数1つにつき1つの制約
分割表の独立性の検定:$(rc-1)-\{(r-1)+(c-1)\}=(r-1)(c-1)$
$$\text{自由度}=(\text{カテゴリー数}\ k)-1-(\text{データから推定した母数の数}\ m)$$ ・$-1$:度数の合計が $n$ に固定されている制約
・$-m$:推定した母数1つにつき1つの制約
分割表の独立性の検定:$(rc-1)-\{(r-1)+(c-1)\}=(r-1)(c-1)$
なぜ引くのか
$\chi^2=\sum\frac{(O-E)^2}{E}$ は「観測度数が期待度数からどれだけずれているか」を測ります。母数を外から与えられたのなら期待度数はデータと無関係ですが、データから推定すると、期待度数がデータに合うように調整されます。その結果、ずれは系統的に小さくなり、自由度 $k-1$ の $\chi^2$ 分布で判定すると棄却しにくくなりすぎます。
推定1回ごとに「データのこの要約と期待度数の同じ要約が一致する」という制約が1本増え、自由に動ける成分が1つ減る、と考えると理解しやすいでしょう。不偏分散で $\bar x$ を推定した分だけ $n-1$ にするのと同じ発想です。
$\chi^2=\sum\frac{(O-E)^2}{E}$ は「観測度数が期待度数からどれだけずれているか」を測ります。母数を外から与えられたのなら期待度数はデータと無関係ですが、データから推定すると、期待度数がデータに合うように調整されます。その結果、ずれは系統的に小さくなり、自由度 $k-1$ の $\chi^2$ 分布で判定すると棄却しにくくなりすぎます。
推定1回ごとに「データのこの要約と期待度数の同じ要約が一致する」という制約が1本増え、自由に動ける成分が1つ減る、と考えると理解しやすいでしょう。不偏分散で $\bar x$ を推定した分だけ $n-1$ にするのと同じ発想です。
自由度の早見表
| 検定 | 推定した母数 | 自由度 |
|---|---|---|
| サイコロの目が一様か(6面) | なし | $6-1=5$ |
| ポアソン分布(5区分)・$\lambda$ を推定 | $\lambda$(1個) | $5-1-1=3$ |
| ポアソン分布(5区分)・$\lambda=2$ と指定 | なし | $5-1=4$ |
| 正規分布(8階級)・平均と分散を推定 | $\mu,\sigma^2$(2個) | $8-1-2=5$ |
| 二項分布 $B(4,p)$(5区分)・$p$ を推定 | $p$(1個) | $5-1-1=3$ |
| $3\times4$ 分割表の独立性 | 行・列の周辺比率 $2+3$ 個 | $11-5=6=(3-1)(4-1)$ |
数値例
ある事象の1日あたりの発生件数を「0,1,2,3,4件以上」の5区分に集計し、標本平均から $\lambda$ を推定してポアソン分布への適合度を調べたところ $\chi^2=6.5$ でした。自由度は $5-1-1=3$、$\chi^2_{0.05}(3)=7.815$ なので、5%有意水準では棄却されません。
もし自由度を誤って4とすると、棄却点は $\chi^2_{0.05}(4)=9.488$ になります。この例では結論は同じですが、$\chi^2$ 値が8程度なら判断が逆になり、推定分を引き忘れると「適合している」と甘く判定してしまうことが分かります。
ひっかけ
・母数が問題文で与えられている(例:「$\lambda=2$ のポアソン分布に従うか」)ときは引かない。データから推定したときだけ引く。
・期待度数が小さいセルを併合したら、カテゴリー数 $k$ は併合後の数で数える。
・正規分布への適合では平均と分散の2つを推定するのが普通。1つしか引かないミスに注意。
・二項分布の試行回数 $n$ は既知なので推定母数に数えない。
・母数が問題文で与えられている(例:「$\lambda=2$ のポアソン分布に従うか」)ときは引かない。データから推定したときだけ引く。
・期待度数が小さいセルを併合したら、カテゴリー数 $k$ は併合後の数で数える。
・正規分布への適合では平均と分散の2つを推定するのが普通。1つしか引かないミスに注意。
・二項分布の試行回数 $n$ は既知なので推定母数に数えない。
得点のコツ
自由度は「独立に動ける度数の数 − 合わせ込んだ量の数」と一般化できます。回帰の残差の自由度 $n-2$(切片と傾きの2つを推定)や分散分析の群内自由度 $N-k$($k$ 個の群平均を推定)も同じ理屈なので、まとめて覚えると忘れにくくなります。
自由度は「独立に動ける度数の数 − 合わせ込んだ量の数」と一般化できます。回帰の残差の自由度 $n-2$(切片と傾きの2つを推定)や分散分析の群内自由度 $N-k$($k$ 個の群平均を推定)も同じ理屈なので、まとめて覚えると忘れにくくなります。
統計検定2級 合格ナビ:統計検定2級の問題集アプリ。本番と同じ5択・数値表と電卓で解くオリジナル問題173問と、35問90分の模擬試験。解説記事・公式集・数値表と第1・2章の問題は登録なしで無料。全問は1,480円の買い切り。
アプリを無料で開く有料版と無料版の違い