点推定と推定量の望ましい性質（統計検定2級 7.1）
このページはプロモーション（広告）を含みます。
第7章 推定の解説記事
母数を1つの値で言い当てるのが点推定です。推定の計算式（推定量）はいくつも考えられるので、「どの推定量がよいか」を比べる物差しが必要になります。代表的なのが不偏性・一致性・有効性です。
望ましい性質（$\hat\theta$ は母数 $\theta$ の推定量）
・不偏性：$E[\hat\theta]=\theta$。平均的に的の中心を狙っている。
・一致性：$n\to\infty$ で $\hat\theta$ が $\theta$ に確率的に近づく。
・有効性：不偏推定量どうしなら分散が小さいほどよい。
・平均二乗誤差：$\mathrm{MSE}=E[(\hat\theta-\theta)^2]=V[\hat\theta]+(\text{バイアス})^2$
・不偏性：$E[\hat\theta]=\theta$。平均的に的の中心を狙っている。
・一致性：$n\to\infty$ で $\hat\theta$ が $\theta$ に確率的に近づく。
・有効性：不偏推定量どうしなら分散が小さいほどよい。
・平均二乗誤差：$\mathrm{MSE}=E[(\hat\theta-\theta)^2]=V[\hat\theta]+(\text{バイアス})^2$
なぜ複数の基準が要るのか
不偏でも分散が大きければ1回ごとの推定は大きく外れます。逆に少し偏っていても分散がとても小さければ、MSE では勝つこともあります。的当てにたとえると、不偏性は「着弾の中心が的の中心にある」、有効性は「着弾がまとまっている」ことです。
不偏でも分散が大きければ1回ごとの推定は大きく外れます。逆に少し偏っていても分散がとても小さければ、MSE では勝つこともあります。的当てにたとえると、不偏性は「着弾の中心が的の中心にある」、有効性は「着弾がまとまっている」ことです。
数値例：どちらが良い推定量か
$X_1,X_2,X_3$ が独立に平均 $\mu$、分散 $\sigma^2$ に従うとします。
| 推定量 | 期待値 | 分散 | 評価 |
|---|---|---|---|
| $\bar X=\frac{X_1+X_2+X_3}{3}$ | $\mu$ | $\frac{1}{3}\sigma^2\approx0.333\sigma^2$ | 不偏・最小分散 |
| $T=\frac{X_1+2X_2+X_3}{4}$ | $\frac{1+2+1}{4}\mu=\mu$ | $\frac{1+4+1}{16}\sigma^2=0.375\sigma^2$ | 不偏だが $\bar X$ より劣る |
| $X_1$ だけ | $\mu$ | $\sigma^2$ | 不偏だが一致性なし |
| $\frac{X_1+X_2+X_3}{4}$ | $\frac34\mu$ | $\frac{3}{16}\sigma^2$ | 分散は小さいが偏りあり |
線形な推定量 $\sum a_iX_i$ の期待値は $(\sum a_i)\mu$ なので、係数の和が1なら不偏。分散は $(\sum a_i^2)\sigma^2$ で、係数が均等なほど小さくなります。
よく出る推定量の性質
| 推定量 | 不偏 | 一致 |
|---|---|---|
| 標本平均 $\bar X$（母平均） | ○ | ○ |
| 標本比率 $\hat p$（母比率） | ○ | ○ |
| 不偏分散 $S^2$（母分散） | ○ | ○ |
| $n$ で割る標本分散（母分散） | ×（過小） | ○ |
| $S=\sqrt{S^2}$（母標準偏差） | × | ○ |
推定量の作り方には、標本の平均などを母集団の対応する量に等しいとおくモーメント法や、観測データの起こりやすさを最大にする最尤法があります（「最尤推定の具体例」の記事を参照）。
ひっかけ
・「不偏推定量なら一致推定量」「一致推定量なら不偏」はどちらも誤り。$X_1$ だけの推定量は不偏でも一致しません。$n$ 割りの分散は一致でも不偏ではありません。
・「最尤推定量は常に不偏」は誤り（正規分布の分散の最尤推定量は $n$ 割り）。
・$E[S^2]=\sigma^2$ から $E[S]=\sigma$ とは言えません。
・「不偏推定量なら一致推定量」「一致推定量なら不偏」はどちらも誤り。$X_1$ だけの推定量は不偏でも一致しません。$n$ 割りの分散は一致でも不偏ではありません。
・「最尤推定量は常に不偏」は誤り（正規分布の分散の最尤推定量は $n$ 割り）。
・$E[S^2]=\sigma^2$ から $E[S]=\sigma$ とは言えません。
得点のコツ
推定量の比較問題は、①係数の和で不偏かを判定、②係数の2乗和で分散を比べる、の2ステップでほぼ解けます。「不偏性」は期待値、「有効性」は分散、「一致性」は $n\to\infty$ と、それぞれ何を見る性質かを対応させて覚えましょう。
推定量の比較問題は、①係数の和で不偏かを判定、②係数の2乗和で分散を比べる、の2ステップでほぼ解けます。「不偏性」は期待値、「有効性」は分散、「一致性」は $n\to\infty$ と、それぞれ何を見る性質かを対応させて覚えましょう。
統計検定2級 合格ナビ：統計検定2級の問題集アプリ。本番と同じ5択・数値表と電卓で解くオリジナル問題173問と、35問90分の模擬試験。解説記事・公式集・数値表と第1・2章の問題は登録なしで無料。全問は1,480円の買い切り。
アプリを無料で開く有料版と無料版の違い