積率母関数(モーメント母関数)の求め方

<この記事の内容>:積率(モーメント)母関数の定義と、その実用的な意味(期待値・分散などへの応用)を紹介しています。

積率母関数とは

積率(・モーメント)母関数は、「力学における”モーメント=力×キョリ”」の統計学バージョン(を産み出す:後の微分のところで紹介します)もので、そこからモーメント関数という名がつけられました。

積率母関数の式

早速、モーメント母関数の式をまず紹介していきます。

この記事ではモーメント母関数を\(M_{X}(\theta )\)とします。そして、その\(M_{X}(\theta )\)は

\(確率変数Xに対して、E[e^{\theta X}]=M_{X}(\theta)\)で定義されます。

離散型確率分布の場合

$$E[e^{\theta X}]=\sum_{k=1}^{n}p_{k}e^{\theta x_{k}}$$

(※:具体的な確率分布での積率母関数の導出は、それぞれの確率分布の記事内で行なっています。)

連続確率分布の場合

$$E[e^{\theta X}]=\int_{-\infty}^{\infty}f(x)e^{\theta x}dx$$

モーメント(積率)母関数が役立つ理由

積率母関数という関数は一体どのような役に立つのでしょうか。

一部の例外を除いて『積率母関数さえ求めることが出来れば』

→それを微分して0を代入すると非常に簡単にモーメントが計算でき、

→さらにモーメントが分かれば様々な確率分布の期待値・分散などを求めることができるのです。

期待値への利用

まずは期待値Eですが、求めた積率母関数を一階微分しθに0を代入することで求めることができます。

\(\mathrm{E[X]}=M_{X}^{'}(0)\)

分散への利用

次に分散Vについて:これは求めた積率母関数を二階微分し、期待値の時と同様にθに0を代入することで求めた『\(M_{X}^{'}(0)\)』と『\(M_{X}^{''}(0)\)』を使って、

\(V[X]=M_{X}^{''}(0)-\{M_{X}^{'}(0)\}^{2}\)

で求まります。

標準偏差への利用

標準偏差は、分散がもとまっていればその”ルートをとるだけ”でした。

したがって、次の式で求まります。

\(D[X]=\sqrt{M_{X}^{''}(0)-\{M_{X}^{'}(0)\}^{2}}\)

モーメント母関数が成り立つ理由

さて、このようにとても便利な『積率母関数(モーメント母関数)』ですが、なぜ成り立つのか簡単に説明してみます。

説明の注意点

※:厳密な証明ではなく、視覚的・具体的に理解しやすい方法で説明しています。詳しくは専門書・大学での教科書等をご覧ください。

(以下のマクローリン展開・テイラー展開に関する記事は現在作成中です。)

導入:マクローリン展開

マクローリン展開とは、超越関数(\(\sin x ,\log_{e}x,e^{x}\))などをxの多項式で表す【テイラー展開】の”x=0”付近で行う特別な場合です。

$$f(x)=f(0)+\frac{f'(0)}{1!}x+\frac{f''(0)}{2!}x^{2}+\cdots $$

これによって、\(\sin x\)のような関数を”x”の式で扱うことができとても便利です。

\(X=e^{\theta X}\)としてEに代入する

ここでは、「期待値:演算子E(X)の意味と性質」の知識を使うので、あいまいな方は↑を是非ご覧下さい。

E[X]の”X”代わりに”\(e^{\theta X}\)”を入れた、\(E[e^{\theta X}]\)を考えます。

\(e^{x}\)のマクローリン展開

先ほどの式と、\(e^{x}\)(ネイピア数を底とする指数関数)は何回微分しても\(e^{x}\)となるので、

$$e^{\theta x}=1+\theta x+\frac{(\theta x)^{2}}{2!}+\frac{(\theta x)^{3}}{3!}+\cdots$$

とマクローリン展開でき、

$$M_{X}(\theta)=E[e^{\theta X}]=E[1+\theta X+\frac{(\theta X)^{2}}{2!}+\frac{(\theta X)^{3}}{3!}\cdots]$$

これを、\(E[X_{1}+X_{2}+\cdots]=E[X_{1}]+E[X_{2}]+\cdots\)の式に当てはめると、(これについては上のE[X]の性質の記事で解説しています。)

$$1+\theta E[X]+\frac{1}{2!}\theta ^{2}E[X ^{2}]+\frac{1}{3!}\theta^{3}E[X^{3}]+\cdots $$

積率母関数の一階微分と二階微分

こうして求めた積率母関数をθで微分すると、

$$M_{X}'(\theta)=\frac{d E[e^{\theta x}]}{d\theta}=$$

$$\frac{d}{d\theta}(1+\theta E[X]+\frac{1}{2!}\theta ^{2}E[X ^{2}]+\frac{1}{3!}\theta^{3}E[X^{3}]+\cdots)$$より、

$$=E[X]+\theta E[X^{2}]+\frac{1}{2!}\theta^{2}E[X^{3}]+\cdots$$

このようになり、さらにもう一回(つまり二階微分)を行うと

$$M_{X}''(\theta)=\frac{d^{2}E[e^{\theta x}]}{d\theta^{2}}=E[X^{2}]+\theta E[X^{3}]+\cdots$$

となります。

 

θ=0を代入しそれぞれ計算

この導関数の\(\theta\)に0を代入することで、

\(M_{X}'(0)\)のE[X]以降の項は係数にθがかかっているため、すべて消えて

結果的に、\(E[X]=M_{X}'(0)\)が成り立つことが確認できます。

同様に、二階微分した式は\(E[X^{2}]+\theta E[X^{3}]+\cdots\)となっているので、

\(M_{X}''(0)=E[X^{2}]\)

ここで、\(V[X]=E[X^{2}]-(E[X])^{2}\)だから、

\(V[X]=M_{X}''(0)-\{M_{X}'(0)\}^{2}\)であることが確認できました。

(追記予定:これを繰り返すと、◯次のモーメントが求まります)

モーメント母関数まとめ

このように積率母関数は(求めることができれば)、そこからすぐに確率分布の期待値や分散を求めることができる優れ者です。

ただし、先述したとおり一部成り立たない確率分布があることと、証明(ここでは収束について議論していません。)については教科書・専門書を参考にしてください。

推計統計学の関連記事と次回へ

統計学・データの分析の記事まとめ

機械学習のための数学入門まとめへ

 

最後までご覧いただきまして、有難うございました。

【総合学習メディア】:「スマナビング!」では,読者の皆様のからのご感想を募集しています。

ぜひコメント欄にお寄せください。

(※):個々の問題/証明等の質問には、対応出来ない場合があります。

・その他の「お問い合わせ/ご依頼/タイアップ」などに付きましては、【運営元ページ】よりご連絡下さい。

Twitterでフォローしよう