脳内ライブラリアン

脳内ライブラリアン

医療、統計、哲学、育児・教育、音楽など、学んだことを深めて還元するために。

MENU

現代数理統計学の基礎 6章 問15

久々になりましたが統計学基礎の解説に戻ります。

 

問14は3章の別の問題の結果を多用しすぎていて

正直解説が若干めんどくさい、、、ので問15。

 

母数θを用いた関数の不偏推定量について

与えられるクラメールラオの不等式の問題です。

 

コーシーシュバルツの不等式を用いて証明していきます。

 

コーシーシュバルツの不等式はネットで検索してみてください。

 2乗の和≧各数積の和の2乗というのですね。

期待値について用いると以下のような使い方になります。

\{E[(\hat h(x)-h(\theta))S_n(\theta,x)]\}^2\leq E[\{\hat h(x)-h(\theta)\}^2]E[\{S_n(\theta,x)\}^2]

 

ここで右辺は

E[\{\hat h(x)-h(\theta)\}^2]E[\{S_n(\theta,x)\}^2]\\=Var(\hat h)I_n(\theta)

となります。

 

 (h(\theta)の不偏推定量\hat h(x)なので

 逆に言えば、\hat h(x)の期待値は必ずh(\theta)になります。

 なので分散の定義に当てはまるわけです)

 

この時点でかなり解答に近づいています。

あとは左辺の中括弧の中身をh'(θ)に変換できれば証明できます。

まず左辺を展開して

E[(\hat h(x)-h(\theta))S_n(\theta,x)]\\=E[\hat h(x)S_n(\theta,x)]-E[h(\theta)S_n(\theta,x)\

となります。

 

ここで

E[S_n(\theta,x)]=\int\frac{\frac{d}{d\theta}f_n(x|\theta)}{f_n(x|\theta)}f_n(x|\theta)dx\\=\frac{d}{d\theta}\int f_n(x|\theta)dx=0

なので第2項は消えます。

 

第1項は

E[\hat h(x)S_n(\theta,x)]=\int\hat h(x)\frac{\frac{d}{d\theta}f_n(x|\theta)}{f_n(x|\theta)}f_n(x|\theta)dx\\=\frac{d}{d\theta}\int\hat h(x)f_n(x|\theta)dx\\=\frac{d}{d\theta}E[\hat h]=\frac{d}{d\theta}h(\theta)=h'(\theta)

となるので

 

Var_\theta(\hat h)\geq \frac{\{h'(\theta)\}^2}{nI_1(\theta)}

 

が証明されました。