베이즈 확률론

위키백과, 우리 모두의 백과사전.
이동: 둘러보기, 검색

베이즈 확률론(Bayesian probability)은 확률을 '지식의 상태를 측정'하는 것이라고 해석하는 확률론이다. [1] 확률을 발생 빈도(frequency)나 어떤 시스템의 물리적 속성이라고 여기는 것과는 다른 해석이다. 이 분야의 선구자였던 18세기 통계학자 토머스 베이즈의 이름을 따서 명명되었다.

존 이어먼(John Earman)[2]에 따르면, 베이즈 확률에는 두 가지 시점이 있는데 그 하나는 객관적 관점에서 베이즈 통계의 법칙은 이성적 보편적으로 증명될 수 있으며 논리의 확장으로 설명될 수 있다. 한편 주관주의 확률 이론의 관점으로 보면 지식의 상태는 개인적인 믿음의 정도(degree of belief)로 측정할 수 있다. 많은 현대적 기계 학습 방법은 객관적 베이즈 원리에 따라 만들어졌다. 베이즈 확률론은 확률에 대한 여러 개념 중 가장 인기있는 것 중의 하나로 심리학, 사회학, 경제학이론에 많이 응용된다. 어떤 가설의 확률을 평가하기 위해서 사전 확률을 먼저 밝히고 새로운 관련 데이터에 의한 새로운 확률값을 변경한다. 베이즈 정리는 이러한 확률의 계산에 있어 필요한 절차와 공식의 표준을 제시하고 있다.

주관주의 확률 이론[편집]

주관주의 확률 이론에 따르면 확률이란 어떤 사람이 특정한 순간에 주어진 명제나 사건에 대해서 갖는 믿음의 정도(degree of belief)이다.[3] 따라서 어떤 단일 사건이나 명제에 대한 확률값을 세울 수 있다. 예를 들어 "이번 선거에서 아무개가 당선된다"는 명제의 사실 확률값은 고전적 확률이론이나 상대빈도 이론으로는 확률로 취급하기가 어렵다 그러나 실생활에서 이러한 믿음에 대한 확률은 주관적으로 평가된다. 사실 주관주의 확률은 어떤 확정된 확률값을 주는 것이 아니라 그 사건에 대해 각기 사람마다 다른 확률값을 가질 수 있다. 여기서 아무개가 당선할 확률이란 사실 그 명제에 대한 자신의 믿음의 정도가 X%란 것과 같다.

베이즈 확률 계산[편집]

사후확률은 사전확률과 가능도의 곱에 비례한다.

P(H|D) = \frac{P(D|H)\;P(H)}{P(D)}

여기서

  • H는 가설이다. D는 데이터이다.
  • P(H)H사전 확률이다. 즉 D가 보이기 전까지는 H가 참일 확률이다.
  • P(D|H)D를 보게 됨으로써 가지는 H가 참이 되는 조건부 확률이다. 가능도(Likelihood)이다.
  • P(D)D의 경계 확률이다.
  • P(H|D)사후 확률이다. 이 확률은 주어진 데이터와 가설에 대한 사전 믿음이 주어진 상태에서 가설이 참일 때의 확률이다.

같이 보기[편집]

참고 문헌[편집]

  1. Edwin Thompson Jaynes (2003) Probability Theory: The Logic of Science, CUP. ISBN 978-0-521-59271-0 (Link to Fragmentary Edition of March 1996).
  2. (영어) Earman, John (1992년). 《Bayes or bust? A critical examination of Bayesian confirmation theory》. MIT Press
  3. 주관주의 확률 이론, 송하석, 한국논리학회, 1998 [1]
  • (영어) Berger, James (1985). 《Statistical decision theory and Bayesian analysis》, Springer Series in Statistics, Second, Springer-Verlag. ISBN 0-387-96098-8
  • (영어) Bessière, Pierre, Mazer, E., Ahuacatzin, J-M, Mekhnacha, K. (2013). 《Bayesian programming》. CRC Press. ISBN 9781439880326
  • (영어) Bernardo, José M. (1994). 《Bayesian theory》. Wiley. ISBN 0-471-49464-X
  • (영어) Howson, C., P. Urbach (2005년). 《Scientific reasoning: the Bayesian approach》, 3판, Open Court Publishing Company. ISBN 978-0-8126-9578-6
  • (영어) Winkler, Robert L (2003). 《Introduction to Bayesian inference and decision》, 2판, Probabilistic. ISBN 0-9647938-4-9

바깥 고리[편집]