중심극한정리

위키백과 ― 우리 모두의 백과사전.

중심극한정리(Central Limit Theorem, CLT)는 동일한 확률분포를 가진 독립 확률 변수 n개의 평균값은 n이 충분히 크다면 정규분포에 가까워진다는 정리이다. 수학자 피에르시몽 라플라스는 1774년에서 1786년사이의 일련의 논문에서 이러한 정리의 발견과 증명을 시도하였다. 확률과 통계학에서 큰 의미를 가지며 실용적인 면에서도 품질관리, 식스 시그마에서 많이 이용된다.

[편집] 대표적인 중심극한정리

가장 많이 쓰여지는 정리는 다음과 같다.

같은 확률 분포를 가지는 독립된 확률 변수 X₁, X₂, X₃, ...의 기대값 μ와 표준편차σ가 유한하다고 가정하자.

이때, 평균 S_n = (X₁ + ... + X_n)/n 은 기대값 μ, 표준편차 σ / √ n인 정규분포 N(μ,σ²/n)에 수렴한다.

[편집] 중심극한정리의 증명

사건이 일어날 확률을 $p$ , 일어나지 않을 확률을 $q$ 라 할때, $N$ 번의 시행중에서 사건이 $n$ 번 일어날 확률은 다음과 같다.

$\operatorname{P}(n) = {N \choose n} {p^n}{q^{(N-n)}}$

이 확률분포가 결국 $N$ 이 상당히 커지면, 이 확률분포는 거의 연속적이라고 볼 수 있다.

연속적인 분포에서의 $\scriptstyle {n}={\bar{n}}$ 에서 연속적인 확률밀도함수가 극대값을 가지게 된다면, 다음의 식을 만족하게 된다.

$\left({\frac{\partial \operatorname{P}}{\partial n}}\right)_{{n}={\bar{n}}} = 0$

로그 함수는 단조증가 함수이므로, 다음의 식도 만족하게 된다.

$\left({\frac{\partial \ln{\operatorname{P}}}{\partial n}}\right)_{{n}={\bar{n}}} = 0$

충분히 작은 $η$ 에 대하여 $\scriptstyle {n} \equiv {\bar{n}} + {\eta}$ 라 정의하고 $\scriptstyle {\bar{n}}$ 근처에서 $η$ 에 대하여 테일러 전개하면 다음과 같다.

$\ln{\operatorname{P}(n)} = \ln{\operatorname{P}(\bar{n})} + {B_1}{\eta} + \frac{1}{2} {B_2}{\eta}^2 + \frac{1}{6} {B_3}{\eta}^3 +\dots$

여기서 이미 $\scriptstyle {B_1}=\left({\frac{\partial \ln{\operatorname{P}}}{\partial n}}\right)_{{n}={\bar{n}}}$ 이므로, 0이 된다는걸 알 수 있다. 또한 $η$ 가 충분히 작으므로, 다음과 같이 $η$ 에 대한 2차식으로 근사할 수 있다.

$\ln{\operatorname{P}(n)} \approx \ln{\operatorname{P}(\bar{n})} + \frac{1}{2} {B_2}{\eta}^2$

양변에 로그를 풀어서 원래 모양으로 만들어주면 다음과 같다.

$\operatorname{P}(n) = \operatorname{P}(\bar{n})e^{\frac{1}{2} {B_2}{(n-\bar{n})}^2}$

여기서, $\scriptstyle \left({\frac{\partial \ln{\operatorname{P}}}{\partial n}}\right)_{{n}={\bar{n}}} = 0$ 이므로 이것을 바탕으로 스털링 공식을 이용하여 $\scriptstyle {\bar{n}}$ 을 구해보면,