가능도

위키백과, 우리 모두의 백과사전.
(우도 (통계)에서 넘어옴)
이동: 둘러보기, 검색

통계학에서, 가능도(可能度, 영어: likelihood) 또는 우도(尤度)는 확률 분포의 모수가, 어떤 확률변수의 표집값과 일관되는 정도를 나타내는 값이다. 구체적으로, 주어진 표집값에 대한 모수의 가능도는 이 모수를 따르는 분포가 주어진 관측값에 대하여 부여하는 확률이다. 가능도 함수는 확률 분포가 아니며, 합하여 1이 되지 않을 수 있다.

정의[편집]

확률변수 가 모수 에 대한 확률분포 를 가지며, 가 특정한 값 으로 표집되었을 경우, 가능도 함수 는 다음과 같이 정의된다.

로그 가능도(영어: log likelihood)는 가능도 함수의 로그이며, 확률 변수가 독립 확률 변수로 나누어지는 경우와 같이 확률 분포 함수가 곱셈 꼴로 나올 때 미분 계산의 편의성을 위해 사용한다. 로그 함수는 단조 증가하기 때문에, 가능도 함수에서 극값을 가지는 위치와 로그 가능도에서 극값을 가지는 위치는 같다. 따라서 가능도 함수를 미분하여 극값을 구하는 대신, 로그 가능도를 미분하여도 같은 결과를 얻을 수 있다.

만약 확률 변수 의 꼴로 주어져 있으며, 이 확률 분포로 를 가진다면 가능도 함수와 로그 가능도 함수는 다음과 같다.

예 1[편집]

예를 들어, 어떤 동전을 던져서 나오는 결과를 확률 변수 라고 한다면, 이 변수는 앞()과 뒤()의 두 값을 가질 수 있다. 동전을 던져 앞이 나올 확률이

로 주어지는 경우, 동전을 세 번 던져 앞, 뒤, 앞이 나왔을 때의 의 가능도는

가 된다. 가능도 함수를 적분하면

이므로, 가능도는 확률 분포가 아님을 알 수 있다.

예 2[편집]

Let be the probability that a certain coin lands heads up (H) when tossed. So, the probability of getting two heads in two tosses (HH) is . If , then the probability of seeing two heads is 0.25:

동전 던져서, 앞면(H)이 나오는 확률을 라고 하자. 이때, 앞면이 두번 나오는 확률은 이다. 만약 일 경우, 두번 모두 앞면이 나올 확률은 0.25 이다:

With this, we can say that the likelihood that , given the observation HH, is 0.25, that is

이를 통해, 관측결과가 HH 라면, 가능도는 0.25라고 말할 수 있다.

But this is not the same as saying that the probability that , given the observation HH, is 0.25.

그러나 이것은 관측결과가 HH라면, 확률은 0.25 이라고 말하는 것과 같지 않다.

For that, we need concepts from Bayesian inference. In particular, Bayes' theorem says that the posterior probability (density) is proportional to the likelihood times the prior probability.

이를 위해서는 베이지안 추론의 개념이 필요하다. 특히, 베이 즈 정리 (Bayes 's theorem)는 사후 확률 (밀도)이 가능도 (likelihood)과 사전 확률에 비례 함을 말한다.

When tossing a physical coin, the probability is zero that is exactly 0.5, because any physical device has imperfections. The edges of any coin will be slightly beveled, and the mass distribution will never be perfectly uniform.

물리적 인 동전이 던져지면, 어떤 물리적 장치에 결함이 있기 때문에 가 정확히 0.5 일 확률은 0입니다. 동전의 가장자리는 약간 경사지고 질량 분포는 결코 완벽하지 않습니다.

This will generate a distribution for . Moreover, the features on the coin generate slight imbalances, suggesting that even the average of this distribution will likely not be exactly 0.5. However, it might be hard to find a coin that is demonstratively not fair, i.e., for which is clearly greater than (or less than) 0.5.

이렇게하면 에 대한 분포가 생성됩니다. 더욱이, 동전의 특징은 약간의 불균형을 일으키며,이 분포의 평균조차도 정확하게 0.5가 아닐 가능성이 높습니다. 그러나, 공정하게 불공평 한 동전, 즉 가 분명히 0.5보다 크거나 (0.5 미만인) 동전을 찾는 것은 어려울 수 있습니다.