中心極限定理へ進む前に、モーメント母関数について記述しておく必要がある。
確率変数Xが与えられたとき、その確率密度関数をf(x)とする。以下の量(ここでは連続の確率変数とする):
[math]
\mathbb{E}(X^k )=\int _{-\infty}^{\infty} x^k f(x)dx
[/math]
は、Xのk次モーメントと呼ばれる。
「モーメント母関数」は、確率変数Xの全てのモーメントを変数tの単一のべき級数にまとめるすぐれた方法である。これは以下のように定義される:
[math]
M_X (t) = \mathbb{E}(e^{Xt} ) = \mathbb{E}\Big( \sum_{k=0}^\infty \frac{X^k t^k}{k!} \Big)
[/math]
期待値をとるという面からtを定数とみなせば、期待値の線形性より以下のようになる:
[math]
\mathbb{E}(e^{Xt} ) =\sum_{k=0}^\infty \frac{\mathbb{E}(X^k) t^k}{k!}
[/math]
それゆえ、tのべき乗の係数はモーメントをkの階乗で割ったものとなる。
モーメント母関数をk回微分してt=0とおけば、k次のモーメントが得られる:
[math]
\big( \frac{d}{dt} \big) ^k M_X (t)\biggm| _{t=0} = k\mathrm{th\ moment\ of\ } X
[/math]
(例1)パラメータpのベルヌイ分布のモーメント母関数は以下のようになる:
[math]
M_X (t) = \mathbb{E}(e^{Xt} ) = e^{0\cdot t} (1-p)+ e^{1\cdot t}p=pe^t + 1-p
[/math]
ベルヌイ分布の確率変数Xは0と1しかとらない。つまり[math]X^k =X[/math]なので、Xのk次のモーメント[math](k\geq1)[/math]は最初のモーメント(すなわちp)に等しい。実際、モーメント母関数をk回微分すると[math]pe^t[/math]となり、t=0を代入するとpとなる。
(例2)分散[math]\sigma ^2[/math]、平均[math]\mu =0[/math]の正規分布:
[math]
f(x) = \frac{1}{\sqrt{2\pi} \sigma} e^{-x^2 /2\sigma ^2}
[/math]
のモーメント母関数は以下のようになる:
[math]
M_X (t) = \mathbb{E}(e^{Xt} ) = \int_{-\infty}^{\infty} e^{xt} \frac{1}{\sqrt{2\pi} \sigma} e^{-x^2 / 2\sigma ^2} dx
[/math]
[math]
= \int_{-\infty}^{\infty} \frac{e^{-(1/2\sigma ^2)(x^2 -2\sigma ^2 tx)}}{\sqrt{2\pi} \sigma} dx
[/math]
上の式の最後の部分の分子の2番目のカッコの中の平方を完成させ、xと関係ない部分を積分の外に出すと以下のようになる:
[math]
M_X(t) = \frac{1}{\sqrt{2 \pi} \sigma} \int_{-\infty}^{\infty} e^{-(1/2 \sigma ^2)((x-\sigma ^2 t)^2 -\sigma ^4 t^2)} dx
[/math]
[math]
= e^{\sigma ^2 t^2 /2} \Big( \int _{-\infty}^{\infty} \frac{1}{\sqrt{2\pi }\sigma} e^{-(x-\sigma ^2 t)^2 /2\sigma ^2} dx \Big)
[/math]
上の最後の式のカッコの中は、正規分布[math]N(\sigma ^2 t, \sigma ^2)[/math]の全区間にわたる積分なので1になる。したがって:
[math]
M_X (t) = e^{\sigma ^2 t^2 /2}
[/math]
となる。
(モーメント母関数の一意性)[math]X,Y[/math]が、変数tの区間[math] [-\delta, \delta] [/math]上に存在するモーメント母関数[math]M_X (t), M_Y (t)[/math](それぞれ)を持つ確率変数であるとする。もし、
[math]
M_X (t)=M_Y (t), \mathrm{\ for\ all \ } t \in [-\delta, \delta ]
[/math]
ならば、XとYは同じ累積分布を持つ。つまり、全ての実数aについて、P(X<=a)=P(Y<=a)が成立つ。