現代数理統計学の基礎　3章　問8

ここ数日仕事が忙しく更新できませんでしたが、ブログが習慣化しすぎてて、しばらく書かないと気持ち悪くなってきた今日この頃です。

今日はまた統計の問題解きます。3章の問8は有名なド-モアブル・ラプラスの定理の証明問題ですね。二項分布でnを無限に増やすと正規分布に近似されるという話で、中心極限定理の限定的な証明ということになります。

本書内の解説ではモーメント母関数を使って見事にやっているので、同様にしつつ、少し丁寧にみてみます。

変換前のモーメント母関数Xを用いて、変形し、Ｙのモーメント母関数が標準正規分布の母関数である $e^{\frac{t^2}{2}}$ に一致することを示す方法です。

まず求めたい確率関数Yのモーメント母関数は

$E[e^{tY}]=E[e^{t\frac{X-np}{\sqrt {np(1-p)}}}]\\=e^{-\frac{tnp}{\sqrt{np(1-p)}}}E[e^{\frac{tX}{\sqrt{np(1-p)}}}]$

と変換できます。ここでXは二項分布に従うため、モーメント母関数は以下のように求められます。復習がてら二項分布のモーメント母関数の導出をします。

まず確率母関数は

$G(s)=E[s^x]\\=\sum_{k=0}^ns^k_nC_kp^k(1-p)^{n-k}\\=\sum_{k=0}^n{_nC_k}(ps)^k(1-p)^{n-k}\\=(ps+1-p)^n$

最後の変形は二項定理を使っています。よって、 $s$ を $e^t$ に置き換えて、モーメント母関数は

$M_X(t)=(pe^t+1-p)^n$

となります。

先ほどの式に戻って代入すると

$e^{-\frac{tnp}{\sqrt{np(1-p)}}}E[e^{\frac{tX}{\sqrt{np(1-p)}}}]=e^{-\frac{tnp}{\sqrt{np(1-p)}}}(pe^{\frac{t}{\sqrt{np(1-p)}}}+1-p)^n$

さて、あとはこれをn→∞の時にどうなるか近似していきます。n乗が邪魔になってくるため対数をとって考えます。

$logM_Y(t)=-\frac{tnp}{\sqrt{np(1-p)}}+nlog(pe^{\frac{t}{\sqrt{np(1-p)}}}+1-p)$

ここからが問題で、nを含んだlogの中身をどうにかしないといけないのですが、統計において指数関数の扱いで困ったときに役立つ式と言えばテイラー展開です。eの部分をテイラー展開します。

$e^x=1+x+\frac{x^2}{2}+\frac{x^3}{3}+・・・$ となるので

$-\frac{tnp}{\sqrt{np(1-p)}}+nlog(pe^{\frac{t}{\sqrt{np(1-p)}}}+1-p)\\=-\frac{tnp}{\sqrt{np(1-p)}}+nlog\{p(1+\frac{t}{\sqrt{np(1-p)}}+\frac{t^2}{2np(1-p)}+・・・)+1-p\}\\=-\frac{tnp}{\sqrt{np(1-p)}}+nlog\{p(\frac{t}{\sqrt{np(1-p)}}+\frac{t^2}{2np(1-p)}+・・・)+1\}$

さて、今度はlogが邪魔になってきました。。。

そこでまたテイラー展開です。

$log(1+x)=x-\frac{x^2}{2}+\frac{x^3}{3}-・・・$ を利用して

$x=\frac{pt}{\sqrt{np(1-p)}}+\frac{pt^2}{2np(1-p)}+・・・$ と考えます。

すると

$-\frac{tnp}{\sqrt{np(1-p)}}+nlog\{p(\frac{t}{\sqrt{np(1-p)}}+\frac{t^2}{2np(1-p)}+…)+1\}\\=-\frac{tnp}{\sqrt{np(1-p)}}+\frac{tnp}{\sqrt{np(1-p)}}+\frac{t^2}{2(1-p)}-\frac{t^2np^2}{2np(1-p)}-\frac{t^2n}{2n^2(1-p)}-・・・$

ここで、最後の項を含めたもの以降は全て分母にnが出現するため、n→∞のとき全て消えます。よって

$logM_Y(t)=-\frac{tnp}{\sqrt{np(1-p)}}+\frac{tnp}{\sqrt{np(1-p)}}+\frac{t^2}{2(1-p)}-\frac{t^2np^2}{2np(1-p)}-\frac{t^2n}{2n^2(1-p)}-・・・\\=\frac{t^2}{2(1-p)}-\frac{t^2np^2}{2np(1-p)}\\=\frac{t^2}{2}$

となり、証明ができました。

解説ページのまとめはこちら

現代数理統計学の基礎解答・解説まとめ - 脳内ライブラリアン

当サイトに掲載されている広告について

当サイトでは、第三者配信の広告サービス（Googleアドセンス、を利用しています。
このような広告配信事業者は、ユーザーの興味に応じた商品やサービスの広告を表示するため、当サイトや他サイトへのアクセスに関する情報『Cookie』(氏名、住所、メールアドレス、電話番号は含まれません) を使用することがあります。
またGoogleアドセンスに関して、このプロセスの詳細やこのような情報が広告配信事業者に使用されないようにする方法については、こちらをクリックしてください。

当サイトが使用しているアクセス解析ツールについて

当サイトでは、Googleによるアクセス解析ツール「Googleアナリティクス」を利用しています。
このGoogleアナリティクスはトラフィックデータの収集のためにCookieを使用しています。
このトラフィックデータは匿名で収集されており、個人を特定するものではありません。
この機能はCookieを無効にすることで収集を拒否することが出来ますので、お使いのブラウザの設定をご確認ください。
この規約に関して、詳しくはこちら、またはこちらをクリックしてください。

当サイトへのコメントについて

当サイトでは、スパム・荒らしへの対応として、コメントの際に使用されたIPアドレスを記録しています。
これはブログの標準機能としてサポートされている機能で、スパム・荒らしへの対応以外にこのIPアドレスを使用することはありません。
また、メールアドレスとURLの入力に関しては、任意となっております。
全てのコメントは管理人であるmedibookが事前にその内容を確認し、承認した上での掲載となりますことをあらかじめご了承下さい。
加えて、次の各号に掲げる内容を含むコメントは管理人の裁量によって承認せず、削除する事があります。

特定の自然人または法人を誹謗し、中傷するもの。

極度にわいせつな内容を含むもの。

禁制品の取引に関するものや、他者を害する行為の依頼など、法律によって禁止されている物品、行為の依頼や斡旋などに関するもの。

その他、公序良俗に反し、または管理人によって承認すべきでないと認められるもの。