4.8 새 증거로 믿음을 갱신하는 법

4.8 새 증거로 믿음을 갱신하는 법

이 페이지는 4장의 필수 개념이다. 사전확률과 증거가 나올 가능성을 자연빈도로 결합해 사후확률을 계산하는 것이 목표다.

4.7에서는 조건의 순서를 바꾸면 확률도 달라진다고 배웠다. 실제 문제에서는 보통 가설이 참이라면 이런 증거가 나타날 확률은 알고 있지만, 우리가 정말 알고 싶은 것은 이 증거를 보았을 때 가설이 참일 확률이다.

예를 들어, 비가 오면 많은 사람이 우산을 쓴다. 하지만 우산을 쓴 사람을 보았다고 해서 반드시 비가 온다고 할 수는 없다. 햇빛을 가리려고 우산을 썼을 수도 있기 때문이다.

사전확률과 가능도를 먼저 구분한다

• Hypothesis(가설) $H$: 확인하고 싶은 주장. 여기서는 비가 온다.
• Evidence(증거) $E$: 판단에 사용하는 단서. 여기서는 사람이 우산을 쓰고 있다.
• Prior probability(사전확률) $P(H)$: 우산 정보와 관계없이 비가 올 확률.
• Likelihood(가능도) $P(E\mid H)$: 비가 올 때 사람이 우산을 쓰고 있을 확률.
• Evidence probability(증거확률) $P(E)$: 비가 오든 오지 않든 우산 쓴 사람을 볼 전체 확률.
• Posterior probability(사후확률) $P(H\mid E)$: 우산 쓴 사람을 보았을 때 비가 올 확률.

$P(E\mid H)$는 비가 올 때 우산을 쓸 확률이고, $P(H\mid E)$는 우산을 쓴 사람을 보았을 때 비가 올 확률이다. 두 확률은 묻는 방향이 다르다. 햇빛을 가리려고 우산을 쓴 사람도 있으므로 두 값을 같다고 생각하면 안 된다.

주어진 확률을 100일 빈도로 바꾸어 본다

비가 올 확률을 10%, 비가 올 때 우산을 볼 확률을 80%, 비가 오지 않을 때 우산을 볼 확률을 20%라고 가정하자. 이 확률을 100일 기준으로 바꾸면 비가 오는 10일 중 8일, 비가 오지 않는 90일 중 18일에 우산을 보는 셈이다. 다음 표의 숫자는 실제 관측 결과가 아니라 주어진 확률을 쉽게 읽기 위해 100일 기준으로 환산한 자연빈도다.

주어진 확률을 100일 기준으로 환산한 자연빈도

날씨	우산을 봄 $E$	우산을 못 봄	합계
비가 옴 $H$	8일	2일	10일
비가 오지 않음	18일	72일	90일
합계	26일	74일	100일

우산을 볼 전체 확률은 비가 오면서 우산을 볼 확률 $8/100$과 비가 오지 않지만 우산을 볼 확률 $18/100$을 합한 값이다.

$$P(E) = \frac{8}{100}+\frac{18}{100} = \frac{26}{100}$$

$E$

우산 쓴 사람을 보는 Evidence(증거)

단위: 사건

$P(E)$

비가 오거나 오지 않는 모든 경우에서 우산을 볼 Evidence probability(증거확률)

단위: 퍼센트

이제 우산을 볼 전체 확률 $26/100$ 가운데 비가 오면서 우산을 볼 확률 $8/100$이 차지하는 비율을 구한다.

$$\begin{aligned} P(H\mid E) &= \frac{P(H\cap E)}{P(E)} \\ &= \frac{8/100}{26/100} \\ &= \frac{8}{26} \\ &\approx 30.77\% \end{aligned}$$

$H$

비가 오는 Hypothesis(가설)

단위: 사건

$E$

우산 쓴 사람을 보는 Evidence(증거)

단위: 사건

$P(H\cap E)$

비가 오면서 우산도 볼 Joint probability(결합확률)

단위: 퍼센트

$P(E)$

우산을 볼 전체 Evidence probability(증거확률)

단위: 퍼센트

$P(H\mid E)$

우산을 보았을 때 비가 올 Posterior probability(사후확률)

단위: 퍼센트

• 분자 $8/100$: 비가 오면서 우산도 볼 확률
• 분모 $26/100$: 우산을 볼 전체 확률

비 오는 날에는 80%(100일 기준으로 10일 중 8일)에서 우산을 볼 수 있다. 하지만 우산을 본 26일 전체 가운데 실제로 비가 온 날은 8일이다. 따라서 우산을 쓴 사람을 보았을 때 비가 오고 있을 확률은 $8/26\approx30.77\%$다.

베이즈 정리는 두 증거 경로를 분모에 넣는다

앞의 우산 예시에서 $H$는 비가 온다, $H^{\mathrm{c}}$는 비가 오지 않는다, $E$는 우산을 본다는 뜻이다. 베이즈 정리는 우산을 볼 수 있는 두 경우를 모두 모아 놓고, 그중 비가 오는 경우가 차지하는 비율을 구한다.

$$P(H\mid E) = \frac{P(E\mid H)P(H)} {P(E\mid H)P(H)+P(E\mid H^{\mathrm{c}})P(H^{\mathrm{c}})}$$

$P(H)$

비가 올 Prior probability(사전확률)

예시 값: $10/100$

$P(H^{\mathrm{c}})$

비가 오지 않을 확률

예시 값: $90/100$

$P(E\mid H)$

비가 올 때 우산을 볼 Likelihood(가능도)

예시 값: $8/10$

$P(E\mid H^{\mathrm{c}})$

비가 오지 않을 때 우산을 볼 확률

예시 값: $18/90$

$P(H\mid E)$

우산을 보았을 때 비가 올 Posterior probability(사후확률)

예시 값: 약 $30.77\%$

• 분자 $P(E\mid H)P(H)$: 비가 오면서 우산도 볼 확률인 $8/100$
• 분모 $P(E\mid H)P(H)+P(E\mid H^{\mathrm{c}})P(H^{\mathrm{c}})$: 비가 오든 오지 않든 우산을 볼 전체 확률인 $26/100$

따라서 복잡해 보이는 일반식도 우산 예시에서는 앞에서 계산한 $(8/100)/(26/100)$과 같다. 분모에 비가 오지 않지만 우산을 보는 경우까지 넣어야 우산을 본 모든 경우를 빠짐없이 셀 수 있다.

비가 올 확률

10%

비가 올 때 우산을 볼 확률

80%

비가 오지 않을 때 우산을 볼 확률

20%

우산을 본 뒤 비가 올 확률30.77%

표의 값은 입력한 확률을 100일 기준으로 환산한 자연빈도입니다.

입력한 확률을 100일 기준으로 환산한 비와 우산의 자연빈도

날씨	우산을 봄 (E)	우산을 못 봄	합계
비가 옴 (H)	8일	2일	10일
비가 오지 않음	18일	72일	90일
합계	26일	74일	100일

우산을 본 날 중 비가 온 비율30.77%

비 오는 날의 80%를 거꾸로 읽으면 안 된다

여기서 문제는 비가 오는 날 우산을 볼 확률 80%를 우산을 보았을 때 비가 올 확률 80%로 거꾸로 읽는 것이다. 비가 오지 않아도 우산을 쓰는 사람이 있으므로 두 확률은 같지 않다. Base-rate neglect(기저율 무시)는 이처럼 우산을 보기 전 비가 올 확률 10%와 비가 오지 않는 날에도 우산을 본 18일을 고려하지 않고, 80%라는 숫자만 보고 판단하는 실수다. 실제로 우산을 본 날은 26일이고 그중 비가 온 날은 8일이므로, 우산을 보았을 때 비가 올 확률은 약 30.77%다.

우산을 본 뒤 계산한 30.77%도 확정된 답은 아니다. 기상 레이더에서 비구름을 확인하는 것처럼 새로운 정보를 얻으면 확률을 다시 계산할 수 있다. 반면 같은 정보는 한 번만 반영해야 한다. 민수와 지수가 모두 비가 온다고 말해도, 지수가 민수의 말을 그대로 전달했다면 새로운 증거가 추가된 것이 아니므로 비가 올 확률은 그대로다.

처음 넣은 숫자가 틀리면 결과도 틀린다

베이즈 공식은 넣은 숫자를 계산할 뿐, 그 숫자가 맞는지는 판단하지 못한다. 예를 들어 실제로는 비가 올 확률이 10%인데 50%라고 넣으면, 계산식이 정확해도 결과는 잘못된다. 따라서 비가 올 확률 10%, 비 오는 날 우산을 볼 확률 80%, 비가 오지 않는 날 우산을 볼 확률 20%를 어떤 근거로 정했는지 먼저 확인해야 한다.

백테스트도 같다. 같은 자료를 반복해서 보며 전략에 유리한 숫자를 고르면 새 자료에서는 결과가 달라질 수 있다. 다른 기간의 자료에서도 비슷한 결과가 나오는지 확인하고, 입력 숫자를 조금 바꾸어도 결론이 크게 달라지지 않는지 살펴보아야 한다.

자주 생기는 오해

• 비가 올 때 우산을 볼 확률과 우산을 보았을 때 비가 올 확률은 서로 다른 질문이다.
• 우산을 본 모든 경우를 세려면 비가 오지 않는 날에 우산을 본 경우도 포함해야 한다.
• 현재 계산한 30.77%는 새로운 정보를 얻으면 달라질 수 있다.
• 다른 사람이 같은 말을 전달한 것이라면 새로운 정보가 아니므로 한 번만 반영한다.

이해 점검

표의 8일과 18일은 실제 관측값인가?

아니다. 주어진 확률을 100일 기준으로 환산한 자연빈도다. 8일은 $10\times0.8$, 18일은 $90\times0.2$로 얻는다.

비 오는 날 우산을 볼 확률 80%를 사후확률 80%로 읽으면 왜 안 되는가?

비가 오지 않은 날에도 우산을 볼 수 있기 때문이다. 우산을 본 두 경로를 모두 세어야 한다.

예시에서 우산을 본 날은 총 며칠이고 그중 비가 온 비율은 얼마인가?

$8+18=26$일이며, 그중 비가 온 날의 비율은 $8/26\approx30.77\%$다.

정확한 베이즈 공식만 있으면 잘못된 데이터 가정도 해결되는가?

아니다. 사전확률과 가능도가 편향되거나 증거 의존성을 잘못 가정하면 사후확률도 잘못된다.

완료 기준

확률을 100일 기준 자연빈도로 환산하고, $P(E)=26/100$과 $P(H\mid E)=(8/100)/(26/100)\approx30.77\%$를 계산하며 사전확률과 가능도·사후확률을 구분할 수 있으면 다음 페이지로 넘어간다. 다음 페이지에서는 같은 확률모형을 반복할 때 한 실행의 평균이 어떻게 안정되는지 본다.

이 자료는 베이즈 갱신의 일반 원리를 설명하는 교육 자료이며 특정 투자 가설이 참일 확률을 제공하지 않는다.