큰 수의 법칙

위키백과, 우리 모두의 백과사전.
이동: 둘러보기, 검색

큰 수의 법칙(큰 數의 法則, 영어: law of large numbers) 또는 대수의 법칙, 라플라스의 정리는 큰 모집단에서 무작위로 뽑은 표본의 평균이 전체 모집단의 평균과 가까울 가능성이 높다는 통계확률 분야의 기본 개념이다.

약한 법칙[편집]

큰 수의 약한 법칙(또는 대수의 약법칙)은 확률 변수의 무한열 X1, X2, X3, ...이 모두 같은 기댓값 μ, 분산 σ2을 가지고 서로 상관 관계가 없을 때(임의의 두 확률 변수 사이의 상관 계수가 0), 표본의 평균

\overline{X}_n=(X_1+\cdots+X_n)/n

이 μ로 수렴한다는 것이다. 다시 적자면, 어떤 작은 양의 수 ε에 대해서도

\lim_{n\rightarrow\infty}\operatorname{P}\left(\left|\overline{X}_n-\mu\right|<\varepsilon\right)=1

이 성립한다.

일반화[편집]

대수의 약법칙은 각 확률 변수의 기댓값 \mu_i 과 분산 \sigma_i^2 이 다르더라도 분산의 합 \sum_{i=1}^\infin \sigma_i^2 이 무한대로 발산한다면 성립한다. 이 경우의 공식화는 임의의 작은 양수 ε에 대해서 다음과 같다.[1]

  • \lim_{n \to \infty} P(|\frac{\sum_{i=1}^n X_i - \sum_{i=1}^n \mu_i}{\sum_{i=1}^n \sigma_i^2}|>\epsilon) = 0

성립 조건[편집]

위의 일반화된 대수의 약법칙이 성립할 조건을 약화시킬 수 있다. 먼저 Y_n 를 다음과 같이 정의하자.

  • Y_n = \frac{1}{n} \sum_{i=1}^n (X_i - \mu_i)

그러면, X_i 의 확률변수열이 위의 일반화된 대수의 약법칙에 따르기 위한 필요충분조건은 다음과 같다.[2]

  •  \lim_{n \to \infty} E(\frac{Y_n^2}{1+Y_n^2}) = 0

강한 법칙[편집]

큰 수의 강한 법칙(또는 대수의 강법칙)은 확률 변수의 무한열 X1, X2, X3, ... 이 주어지고, 각 확률 변수가 E(|Xi|) < ∞  이고 (기댓값 μ), 서로 독립이며 동일한 분포일 때,

\operatorname{P}\left(\lim_{n\rightarrow\infty}\overline{X}_n=\mu\right)=1

이 성립한다. 즉 표본의 평균은 거의 확실하게 μ로 수렴한다.

같이 보기[편집]

주석[편집]

  1. 최용갑, 《확률론의 기초》, 경문사, 2006, 228쪽.
  2. 같은 책, 231쪽.

참고 문헌[편집]

  • 최용갑, 《확률론의 기초》, 경문사, 2006.