베이즈 정리

위키백과, 우리 모두의 백과사전.
이동: 둘러보기, 검색

확률론통계학에서, 베이즈 정리(영어: Bayes’ theorem)는 두 확률 변수사전 확률사후 확률 사이의 관계를 나타내는 정리다. 베이즈 확률론 해석에 따르면 베이즈 정리는 새로운 근거가 제시될 때 사후 확률이 어떻게 갱신되는지를 구한다.

정의[편집]

확률공간 (P,\Pr) 속에서 A,B\subset P가측집합이라고 하고, \Pr(B)>0이라고 하자. 그렇다면, 베이즈 정리에 따라 다음이 성립한다.

\Pr(A|B)=\frac{\Pr(B|A)\Pr(A)}{\Pr(B)}\propto\mathcal L(A|B)\Pr(A)

각각의 항은 다음과 같은 의미를 갖는다.

  • \Pr(A)A사전 확률으로, 아직 사건 B에 관한 어떠한 정보도 알지 못하는 것을 의미한다.
  • \Pr(A|B)B의 값이 주어진 경우에 대한 A사후 확률이다.
  • \Pr(B|A)A가 주어졌을 때 B조건부 확률이다.
    • \mathcal L(A|B) = \Pr(B|A)B가 주어졌을 때 A가능도이다.
  • \Pr(B)B사전 확률이며, 정규화 상수의 역할을 한다. 이 값은 \Pr(B) = \int_A\Pr(B|A)를 이용하여 구할 수 있다.

이때 A는 불확실성을 계산해야 하는 대상이며, B는 관측하여 값을 알아낼 수 있는 대상으로 생각한다면, A의 확률은 B가 관측된 후 P(A)에서 P(A|B)로 변화하며, 베이즈 정리는 이 때의 변화를 계산하는 방법을 제공한다.

역사[편집]

토머스 베이즈의 원고에 최초로 등장하였고, 이는 리처드 프라이스가 베이즈의 사후 1763년에 〈확률론의 한 문제에 대한 에세이〉(영어: An Essay towards solving a Problem in the Doctrine of Chances)라는 제목으로 출판하였다.[1] 이후 피에르시몽 라플라스는 같은 정리를 1774년에 재발견하였고[2][3] 1812년에 수식화하였다.(영문버전 베이즈정리 참조.)

참고 문헌[편집]

  1. (영어) Bayes, Thomas, Richard Price (1763년). An Essay towards solving a Problem in the Doctrine of Chances. By the late Rev. Mr. Bayes, F. R. S. communicated by Mr. Price, in a letter to John Canton, A. M. F. R. S.. 《Philosophical Transactions of the Royal Society of London》 53: 370–418. doi:10.1098/rstl.1763.0053.
  2. (프랑스어) Laplace, Pierre-Simon (1774년). Mémoire sur la probabilité des causes par les événements. 《Mémoires de l'Académie royale des Sciences de Paris》 4: 621–656.
  3. (프랑스어) Laplace, Pierre-Simon (1785년). Mémoire sur les approximations des formules qui sont fonctions de très grands nombres. 《Mémoires de l'Académie royale des Sciences de Paris》: 423-467.
  • (영어) Berger, James (1985). 《Statistical decision theory and Bayesian analysis》, Springer Series in Statistics, Second, Springer-Verlag. ISBN 0-387-96098-8
  • (영어) Bessière, Pierre, Mazer, E., Ahuacatzin, J-M, Mekhnacha, K. (2013). 《Bayesian programming》. CRC Press. ISBN 9781439880326
  • (영어) Bernardo, José M. (1994). 《Bayesian theory》. Wiley. ISBN 0-471-49464-X
  • (영어) Howson, C., P. Urbach (2005년). 《Scientific reasoning: the Bayesian approach》, 3판, Open Court Publishing Company. ISBN 978-0-8126-9578-6
  • (영어) Winkler, Robert L (2003). 《Introduction to Bayesian inference and decision》, 2판, Probabilistic. ISBN 0-9647938-4-9

같이 보기[편집]

바깥 고리[편집]