모멘트 생성 함수

확률론과 통계학에서, 임의의 확률변수 X의 기댓값이 존재한다면 X의 적률생성함수(moment generating function, mgf)는 다음과 같이 정의한다.

M_{X}(t)=E\left(e^{tX}\right)

,

\quad t\in \mathbb {R}

t = 0 근처에서 적률생성함수가 존재한다고 가정할 때 적률생성함수를 이용하면 확률분포의 적률는 다음과 같이 간단하게 구할 수 있다.

E\left(X^{n}\right)=M_{X}^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t^{n}}}\right|_{t=0}M_{X}(t).

계산

X의 확률밀도함수가 $f(x)\$ 이면 적률생성함수는 다음과 같이 구한다.

M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,\mathrm {d} x

=\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots \right)f(x)\,\mathrm {d} x

=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots ,

이때 $m_{i}\$ 는 i번째 적률이며 $M_{X}(-t)\$ 는 $f(x)\$ 의 양측라플라스변환이다.

확률분포가 연속이든 아니든 F가 누적분포함수이면 적률생성함수는 다음과 같은 리만-스틸체스 적분으로 구할 수 있다.

M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}\,dF(x)

n개의 확률변수 $X_{1},X_{2},...X_{n}\$ 가 동일한 분포를 가질 필요는 없지만 독립적인 분포를 가진다고 가정한다. 이때 상수 $a_{i}\$ 에 대해서 $S_{n}=\sum _{i=1}^{n}a_{i}X_{i}$ 의 확률분포는 $X_{i}\$ 각자의 확률밀도함수를 합성곱한 것이며, 적률생성함수는 다음과 같다.

M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)\ldots M_{X_{n}}(a_{n}t).

예제

다음은 자주 사용되는 확률분포의 적률생성함수와 특성함수의 목록이다.

분포	모멘트생성함수	특성함수
이항 분포 B(n, p)	$\,(1-p+pe^{t})^{n}$	$\,(1-p+pe^{it})^{n}$
푸아송 분포 Pois(λ)	$\,e^{\lambda (e^{t}-1)}$	$\,e^{\lambda (e^{it}-1)}$
연속균등분포 U(a, b)	$\,{\frac {e^{tb}-e^{ta}}{t(b-a)}}$	$\,{\frac {e^{itb}-e^{ita}}{it(b-a)}}$
정규분포 N(μ, σ²)	$\,e^{t\mu +{\frac {1}{2}}\sigma ^{2}t^{2}}$	$\,e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}$
카이제곱 분포 χ²_k	$\,(1-2t)^{-k/2}$	$\,(1-2it)^{-k/2}$
감마 분포 Γ(k, θ)	$\,(1-t\theta )^{-k}$	$\,(1-it\theta )^{-k}$
지수분포 Exp(λ)	$\,(1-t\lambda ^{-1})^{-1}$	$\,(1-it\lambda ^{-1})^{-1}$
다변량 정규분포 N(μ, Σ)	$\,e^{t^{\mathrm {T} }\mu +{\frac {1}{2}}t^{\mathrm {T} }\Sigma t}$	$\,e^{it^{\mathrm {T} }\mu -{\frac {1}{2}}t^{\mathrm {T} }\Sigma t}$
퇴화분포 δ_a	$\,e^{ta}$	$\,e^{ita}$
라플라스 분포 L(μ, b)	$\,{\frac {e^{t\mu }}{1-b^{2}t^{2}}}$	$\,{\frac {e^{it\mu }}{1+b^{2}t^{2}}}$
코시 분포 Cauchy(μ, θ)	정의되지 않음	$\,e^{it\mu -\theta \|t\|}$
음이항 분포 NB(r, p)	$\,{\frac {(pe^{t})^{r}}{(1-(1-p)e^{t})^{r}}}$	$\,{\frac {p^{r}}{(1-(1-p)e^{it})^{r}}}$