패러독스 on kenji.blog

'검사 양성' = '질병'일까?: 기준 비율의 오류

Thu, 10 Sep 2026 21:00:00 +0900

건강 검진이나 암 검진에서 “양성(이상 있음)“이라는 결과가 나오면 누구나 패닉에 빠질 것입니다. 하지만 통계학과 확률에 대한 지식이 있다면, 심호흡을 하고 침착해질 수 있을지도 모릅니다. 왜냐하면 “정확도 높은 검사에서 양성이 나왔다"고 해서 “실제로 병에 걸렸을 확률이 높다"는 것을 의미하지는 않기 때문입니다.

이것은 “기준 비율의 오류(Base Rate Fallacy)” 또는 “사전 확률의 무시"라고 불리는, 인간의 직관이 확률 계산을 크게 착각하는 전형적인 인지 편향입니다.

공포의 건강 검진 문제

다음과 같은 상황을 상상해 보세요.

어느 마을에 1만 명 중 1명(0.01%)이 감염되는 미지의 질병이 있습니다. 이 병을 발견하기 위해 **“정확도 99%”**의 뛰어난 검사 키트가 개발되었습니다. (※ 정확도 99%란, 병에 걸린 사람이 검사를 받았을 때 99%의 확률로 올바르게 ‘양성’이라고 판정하고, 건강한 사람이 받았을 때 99%의 확률로 올바르게 ‘음성’이라고 판정한다는 의미입니다.)

당신이 우연히 이 검사를 받았는데, 결과는 **“양성”**이었습니다. 자, 당신이 정말로 이 병에 감염되었을 확률은 얼마나 될까요?

대부분의 사람은 “검사 정확도가 99%이니까, 내가 병에 걸렸을 확률도 99%일 것이다"라고 직관적으로 대답합니다. 하지만 수학적인 정답은 **“약 0.98%(1% 미만)”**입니다.

도대체 왜 99%의 정확도가 있는데 실제 확률은 1% 미만이 되어버리는 것일까요?

베이즈 정리와 전체의 시각화

이 문제를 푸는 열쇠는 검사의 정확도뿐만 아니라, **“그 병이 원래 얼마나 희귀한가(기준 비율·사전 확률)”**를 고려하는 데 있습니다. 직관에 반하는 이 현상을, 100만 명이라는 큰 집단을 사용하여 시각화해 보겠습니다.

전체 인원: 1,000,000명
실제로 병에 걸린 사람(1만 명 중 1명): 100명
건강한 사람: 999,900명

이 100만 명 전원에게 “정확도 99%“의 검사를 실시합니다.

1. 실제로 병에 걸린 사람(100명)이 검사를 받은 경우

정확도가 99%이므로, 올바르게 “양성"으로 판정되는 사람은: 100명 × 99% = 99명(진양성)

2. 건강한 사람(999,900명)이 검사를 받은 경우

정확도가 99%이므로, 1%의 확률로 잘못 “양성"으로 판정되는 사람(위양성)이 발생합니다: 999,900명 × 1% = 9,999명(위양성)

graph TD A["전체 인구 (1,000,000명)"] --> B["병에 걸린 사람 (100명)"] A --> C["건강한 사람 (999,900명)"] B -->|99% 정답| B1["진양성 (99명)"] B -->|1% 실패| B2["위음성 (1명)"] C -->|99% 정답| C1["진음성 (989,901명)"] C -->|1% 실패| C2["위양성 (9,999명)"] B1 -.-> D{"『양성』 판정을 받은 사람의 총수: 10,098명"} C2 -.-> D style A fill:#ECEFF1,stroke:#333 style B fill:#FFCDD2,stroke:#333 style C fill:#C8E6C9,stroke:#333 style B1 fill:#F44336,stroke:#333,color:#fff style C2 fill:#FF9800,stroke:#333,color:#fff style D fill:#FFF9C4,stroke:#333,stroke-width:2px

당신이 병에 걸렸을 진짜 확률

자, 당신은 의사로부터 “양성입니다"라는 통보를 받았습니다. 이것은 당신이 그림의 오른쪽 아래에 있는 “『양성』 판정을 받은 사람의 총수(10,098명)” 그룹에 들어갔음을 의미합니다.

이 그룹 안에서 **“정말로 병에 걸린 사람(진양성)”**의 비율은 얼마나 될까요?

$$ \text{정말로 병에 걸렸을 확률} = \frac{\text{진양성}}{\text{양성 판정을 받은 전원}} = \frac{99}{99 + 9,999} = \frac{99}{10,098} \approx 0.0098 $$

계산 결과는 **약 0.98%**입니다. “양성” 판정을 받았음에도 불구하고, 당신이 건강할 확률(위양성)이 압도적으로 높습니다(약 99%).

왜 직관은 틀리는 것일까?

이 현상은 조건부 확률을 구하는 **“베이즈 정리”**에 의해 수학적으로 설명되지만, 인간의 뇌는 이 계산에 매우 서툽니다.

우리가 실수를 하는 이유는, 눈앞에 제공된 개별적이고 강렬한 정보(“당신의 검사 결과는 양성! 정확도는 99%!")에 정신이 팔려, 배경에 있는 방대하고 지루한 통계 데이터(“애초에 이 병에 걸린 사람은 1만 명 중 1명밖에 없다(기준 비율)")를 무시해 버리기 때문입니다.

“병의 희소성(0.01%)“이 “검사의 부정확성(1%)“보다 훨씬 극단적이기 때문에, 아주 작은 검사 오류가 원래의 환자 수를 순식간에 삼켜버리는 것입니다.

사회에 숨어 있는 “기준 비율의 오류”

이 착각은 의료뿐만 아니라 다양한 상황에서 패닉이나 잘못된 판단을 일으킵니다.

안면 인식 시스템과 테러리스트: 정확도 99.9%의 안면 인식 카메라가 공항에서 “테러리스트"를 발견했다 하더라도, 테러리스트의 기본 확률이 극히 낮기 때문에, 잡히는 사람은 대부분 얼굴이 비슷한 무고한 일반인(위양성)이 됩니다.
교통사고와 고령 운전자: “사고를 낸 자동차의 〇〇%가 고령자였다"는 뉴스를 보고 위험하다고 느껴도, “애초에 도로를 달리고 있는 전체 운전자 중 고령자가 차지하는 비율(기준 비율)“을 고려하지 않으면, 특정 연령층이 정말로 사고를 일으키기 쉬운지 알 수 없습니다.

“기준 비율의 오류"는 충격적인 수치나 개별 사례를 보았을 때일수록, **“애초에 전체 중에서 그것이 얼마나 일어나기 쉬운 일인가(기준 비율)”**로 되돌아가는 통계적 사고의 중요성을 우리에게 가르쳐 줍니다.

몬티 홀 문제: 직관을 배신하는 확률론의 함정과 베이즈 추정에 의한 완전 해명

Thu, 10 Sep 2026 00:00:00 +0900

1. 무대는 TV 퀴즈 프로그램: 당신이라면 어떻게 하겠습니까?

1990년, 미국의 뉴스 잡지 『Parade』의 칼럼 “Ask Marilyn(마릴린에게 물어보세요)“에 한 독자로부터 다음과 같은 질문이 도착했습니다.

당신은 TV 게임 프로그램의 참가자입니다. 눈앞에 **3개의 문(A, B, C)**이 있습니다. 1개의 문 뒤에는 **새 차(당첨)**가, 나머지 2개의 문 뒤에는 **염소(꽝)**가 있습니다.

당신은 먼저 문 A를 선택했습니다.

그러자 어떤 문에 새 차가 있는지 알고 있는 진행자 몬티 홀이 남은 문 중에서 염소가 있는 문 B를 열었습니다.

몬티는 당신에게 이렇게 말합니다. “지금이라면 문 C로 바꿔도 됩니다. 어떻게 하시겠습니까?”

과연, 당신은 문을 바꿔야 할까요?

직관적으로는 “남은 문은 A와 C 2개. 새 차가 어느 쪽에 있는지는 완전히 무작위이므로 당첨 확률은 어느 쪽이든 $\frac{1}{2}$(50%). 그러니까 바꾸든 바꾸지 않든 똑같다"라고 생각하기 쉽습니다.

하지만, 칼럼니스트 마릴린 보스 사반트(기네스북에서 가장 IQ가 높은 인물로 인정받은 사람)는 **“바꿔야 합니다. 바꾸면 당첨 확률이 2배가 됩니다”**라고 답변했습니다.

이 답변은 전미에 센세이션을 불러일으켰고, 약 1만 통의 항의 편지(그중 약 1000통은 수학 박사 학위를 가진 학자들로부터)가 쇄도했습니다. “당신은 확률의 기본을 이해하지 못하고 있다”, “여성의 논리다"와 같은 신랄한 비판의 폭풍이었습니다. 하지만 결론부터 말하자면, 마릴린의 답변은 수학적으로 완전히 옳았습니다.

2. 직관과 수학의 괴리: Mermaid로 보는 확률의 분기

왜 우리의 직관은 “$\frac{1}{2}$“이라고 착각해버리는 걸까요? 먼저 게임의 모든 패턴을 시각화해 보겠습니다.

graph TD Start["게임 시작"] --> CarA["새 차는 문 A (확률 1/3)"] Start --> CarB["새 차는 문 B (확률 1/3)"] Start --> CarC["새 차는 문 C (확률 1/3)"] CarA --> PickA1["당신이 문 A를 선택"] CarB --> PickA2["당신이 문 A를 선택"] CarC --> PickA3["당신이 문 A를 선택"] PickA1 --> HostB_or_C["진행자는 B나 C를 연다"] PickA2 --> HostC["진행자는 반드시 C를 연다"] PickA3 --> HostB["진행자는 반드시 B를 연다"] HostB_or_C --> Stay1["바꾸지 않는다: 당첨!"] HostB_or_C --> Switch1["바꾼다: 꽝..."] HostC --> Stay2["바꾸지 않는다: 꽝..."] HostC --> Switch2["바꾼다: 당첨!"] HostB --> Stay3["바꾸지 않는다: 꽝..."] HostB --> Switch3["바꾼다: 당첨!"] style Switch2 fill:#bbf,stroke:#333,stroke-width:2px style Switch3 fill:#bbf,stroke:#333,stroke-width:2px style Stay1 fill:#f99,stroke:#333,stroke-width:2px

당신이 “문 A"를 선택했다고 가정할 경우, 다음의 3가지 시나리오가 동일한 확률($\frac{1}{3}$)로 발생합니다.

시나리오 1(새 차가 A): 진행자는 염소가 있는 B나 C를 엽니다. 문을 바꾸면 꽝.
시나리오 2(새 차가 B): 진행자는 염소가 있는 C밖에 열 수 없습니다. 문을 바꾸면 당첨.
시나리오 3(새 차가 C): 진행자는 염소가 있는 B밖에 열 수 없습니다. 문을 바꾸면 당첨.

즉, 3번 중 2번(시나리오 2와 3)은 “문을 바꾸면 반드시 당첨되는” 상태가 되는 것입니다. 따라서 문을 바꿨을 때의 승률은 $\frac{2}{3}$가 되며, 바꾸지 않았을 때의 승률 $\frac{1}{3}$의 2배가 됩니다.

3. 베이즈 정리에 의한 엄밀한 증명

수학적으로 이 문제를 엄밀하게 풀기 위해서는 조건부 확률을 계산하는 ‘베이즈 정리’를 사용합니다.

$$ P(H|E) = \frac{P(E|H) P(H)}{P(E)} $$

여기서 사건을 다음과 같이 정의합니다.

$C_A, C_B, C_C$ : 각각 문 A, B, C에 새 차가 있는 사건. 사전 확률은 $P(C_A) = P(C_B) = P(C_C) = \frac{1}{3}$
당신은 처음에 문 A를 선택했다고 합시다.
$M_B$ : 진행자가 염소가 있는 문 B를 여는 사건.

우리가 구하고 싶은 것은 “진행자가 문 B를 열었다는 조건 하에, 문 C에 새 차가 있을 확률”, 즉 사후 확률 $P(C_C|M_B)$입니다.

먼저, 새 차가 어디에 있는지에 따라 진행자가 문 B를 열 확률 $P(M_B|C_X)$를 생각해보겠습니다.

새 차가 문 A에 있는 경우 ($C_A$) 진행자는 B나 C를 무작위로 열 수 있습니다.
$$ P(M_B|C_A) = \frac{1}{2} $$
새 차가 문 B에 있는 경우 ($C_B$) 진행자는 새 차가 있는 문을 열 수 없으므로 B를 열 확률은 0입니다.
$$ P(M_B|C_B) = 0 $$
새 차가 문 C에 있는 경우 ($C_C$) 진행자는 A(당신이 선택한)와 C(새 차가 있는)를 열 수 없으므로 필연적으로 B를 열 수밖에 없습니다.
$$ P(M_B|C_C) = 1 $$

다음으로, 진행자가 문 B를 열 전체 확률 $P(M_B)$를 ‘전체 확률의 법칙’으로부터 구합니다.

$$ P(M_B) = P(M_B|C_A)P(C_A) + P(M_B|C_B)P(C_B) + P(M_B|C_C)P(C_C) $$ $$ P(M_B) = \left(\frac{1}{2} \times \frac{1}{3}\right) + \left(0 \times \frac{1}{3}\right) + \left(1 \times \frac{1}{3}\right) = \frac{1}{6} + 0 + \frac{1}{3} = \frac{1}{2} $$

드디어 베이즈 정리를 적용하여 문 A와 문 C의 사후 확률을 계산합니다.

문 A(바꾸지 않을 경우)에 새 차가 있을 확률:

$$ P(C_A|M_B) = \frac{P(M_B|C_A) P(C_A)}{P(M_B)} = \frac{\frac{1}{2} \times \frac{1}{3}}{\frac{1}{2}} = \frac{1}{3} $$

문 C(바꿀 경우)에 새 차가 있을 확률:

$$ P(C_C|M_B) = \frac{P(M_B|C_C) P(C_C)}{P(M_B)} = \frac{1 \times \frac{1}{3}}{\frac{1}{2}} = \frac{2}{3} $$

수식을 통한 증명에서도 **“문을 바꾸는 편이 당첨 확률이 2배(2/3)가 된다”**는 것이 명확하게 나타났습니다.

4. 인지 편향: ‘조건화’라는 정보의 가치

왜 수많은 천재 수학자들조차 이 문제를 직관적으로 틀려버렸을까요? 거기에는 인간의 뇌에 내재된 ‘등확률 편향’과 ‘정보 업데이트의 실패’가 있습니다.

4.1. 등확률 편향 (Equiprobability Bias)

인간은 미지의 선택지가 주어졌을 때, ‘남은 선택지의 확률은 항상 균등하다’라고 무의식적으로 할당해버리는 성질이 있습니다. 문이 2개 남은 것을 본 순간, 뇌는 자동으로 “$50\%$ : $50\%$“라고 라벨링 해버리는 것입니다.

4.2. 진행자의 ‘의도’라는 정보

직관이 틀리는 가장 큰 이유는 진행자의 행동이 무작위가 아니라는 것을 간과하는 데 있습니다. 만약 진행자가 “새 차가 어디 있는지 모르고 무작위로 문을 열었는데, 우연히 염소였다"는 규칙(몬티 폴 문제라고 불립니다)이라면, 문 A와 문 C의 확률은 모두 $\frac{1}{2}$이 됩니다.

하지만 실제 몬티 홀 문제에서는 진행자가 다음과 같은 엄격한 제약을 받으며 행동합니다.

참가자가 선택한 문은 열 수 없다.
새 차가 있는 문은 열 수 없다.

이 제약으로 인해 진행자가 “문 B를 열었다"는 행위 자체가, 문 C에 관한 거대한 정보를 우리에게 제공하고 있는 것입니다. “나는 문 C를 열 수 없었다(왜냐하면 거기에 새 차가 있으니까)“라는 무언의 메시지가 담겨 있는 셈입니다.

5. 극단적인 예로 직관 교정하기

아직도 납득이 가지 않는다면 문의 수를 100만 개로 늘려봅시다.

당신은 100만 개의 문 중에서 문 1을 선택했습니다. (당첨될 확률은 $\frac{1}{1,000,000}$)
모든 것을 알고 있는 진행자가 남은 99만 9999개의 문 중에서 염소가 있는 99만 9998개의 문을 전부 열어 버렸습니다.
닫혀 있는 것은 당신이 선택한 “문 1"과 진행자가 일부러 남긴 “문 777,777"뿐입니다.

자, 바꾸시겠습니까? 이 경우 당신이 처음에 “100만 분의 1"의 기적을 뽑았다고 믿는다면 바꾸지 말아야 합니다. 하지만 현실적으로 **“진행자가 절대 열 수 없었던 단 1개의 문”**에 새 차가 있을 확률이 $\frac{999,999}{1,000,000}$이라는 것은 직관적으로 이해할 수 있을 것입니다.

몬티 홀 문제(3개의 문)는 단지 이 “100만 개의 문"의 스케일을 작게 만든 현상일 뿐입니다.

pie title "문 변경의 효과 (100회 시뮬레이션)" "변경해서 당첨 (약 66.7%)" : 67 "변경하지 않고 당첨 (약 33.3%)" : 33

6. 요약: 확률론이 가르쳐주는 비즈니스와 인생의 교훈

몬티 홀 문제는 단순한 퀴즈의 틀을 넘어 우리에게 중요한 교훈을 알려줍니다.

직관은 종종 틀린다: 인간의 뇌는 복잡한 조건부 확률을 직관적으로 처리하도록 진화하지 않았습니다. 중요한 의사 결정에서 직관만으로 판단하는 단독 행동은 위험합니다.
새로운 정보로 확률을 업데이트한다(베이즈 업데이트): 상황이 변하고 새로운 정보(진행자가 어떤 문을 열었는지 등)가 주어졌을 때, 기존의 생각에 고집하지 않고 확률이나 전략을 유연하게 업데이트할 수 있는지가 성공의 열쇠가 됩니다.

“문을 바꾼다"는 작은 결단이 당신 인생의 “새 차"를 손에 넣을 확률을 2배로 만들어줄지도 모릅니다.