기댓값 on kenji.blog

상트페테르부르크의 역설: 기댓값이 "무한대"인 도박에 당신은 얼마를 지불하시겠습니까?

Thu, 10 Sep 2026 05:00:00 +0900

1. 기댓값이 “무한대"인 꿈의 도박

카지노를 걷고 있던 당신은 딜러로부터 다음과 같은 새로운 동전 던지기 게임을 제안받았습니다.

【게임 규칙】

참가비를 지불하고 게임을 시작합니다.
동전을 던집니다. 앞면이 나오면 상금이 2배가 되고, 한 번 더 던질 수 있습니다.
뒷면이 나오는 시점에서 게임이 종료됩니다. 그 시점까지 쌓인 상금을 받습니다.

첫 상금은 2달러부터 시작합니다.

1번째에 뒷면이 나오면, 2달러를 받고 종료.
1번째에 앞면, 2번째에 뒷면이 나오면, 4달러를 받고 종료.
1번째 앞면, 2번째 앞면, 3번째에 뒷면이 나오면, 8달러를 받고 종료.
…이후 앞면이 계속 나오는 한 상금은 16달러, 32달러, 64달러…로 배로 늘어납니다.

graph TD Start["게임 시작"] --> Toss1{"1번째 동전 던지기"} Toss1 -->|뒷면 (1/2)| End1["종료: 2달러 획득"] Toss1 -->|앞면 (1/2)| Toss2{"2번째 동전 던지기"} Toss2 -->|뒷면 (1/2)| End2["종료: 4달러 획득"] Toss2 -->|앞면 (1/2)| Toss3{"3번째 동전 던지기"} Toss3 -->|뒷면 (1/2)| End3["종료: 8달러 획득"] Toss3 -->|앞면 (1/2)| Toss4{"..."} Toss4 -.->|연속될수록| Infinite["상금은 무한대로 배증!"]

자, 여기서 당신에게 질문입니다. 이 게임의 참가비가 “1만 달러(약 150만 엔)“라고 한다면, 당신은 참가하시겠습니까?

아마도 대부분의 사람은 “참가하지 않겠다"고 답할 것입니다. 왜냐하면 절반의 확률로 첫 던지기에서 뒷면이 나와 겨우 2달러만 받고 큰 손해를 보기 때문입니다.

하지만 수학의 확률론(기댓값)에 충실하게 계산해 보면 놀라운 사실이 밝혀집니다. 수학적으로는 참가비가 1만 달러든 1억 엔이든, 전 재산을 빚내서라도 이 게임에 참가해야 합니다.

도대체 왜 그럴까요?

2. 기댓값을 계산해 보자

도박이 “이득인지 손해인지"를 판단하기 위한 수학적 지표로 **“기댓값”**이 있습니다. 기댓값이란, “그 게임을 여러 번 반복했을 때 1회당 평균적으로 어느 정도 이익을 얻는지"를 나타내는 수치입니다. 계산식은 "(받을 수 있는 상금) × (그 확률)“을 모두 더한 것이 됩니다.

이번 게임의 기댓값을 계산해 보겠습니다.

1번째에 뒷면이 나올 확률: $\frac{1}{2}$ 상금은 $2$ 달러. 기댓값에 대한 기여 ＝ $2 \times \frac{1}{2} = 1$ 달러
2번째에 뒷면이 나올 확률: 앞면·뒷면 순으로 나오므로 $\frac{1}{2} \times \frac{1}{2} = \frac{1}{4}$ 상금은 $4$ 달러. 기댓값에 대한 기여 ＝ $4 \times \frac{1}{4} = 1$ 달러
3번째에 뒷면이 나올 확률: 앞면·앞면·뒷면 순으로 나오므로 $(\frac{1}{2})^3 = \frac{1}{8}$ 상금은 $8$ 달러. 기댓값에 대한 기여 ＝ $8 \times \frac{1}{8} = 1$ 달러
$n$번째에 뒷면이 나올 확률: $(\frac{1}{2})^n$ 상금은 $2^n$ 달러. 기댓값에 대한 기여 ＝ $2^n \times (\frac{1}{2})^n = 1$ 달러

즉, 몇 번째에 끝나든 그 패턴의 기댓값은 **항상 “1달러”**가 됩니다. 게임은 무한히 계속될 가능성이 있기 때문에, 이 기댓값을 모두 더하면 다음과 같이 됩니다.

$$ \text{총 기댓값} = 1 + 1 + 1 + 1 + \dots = \infty \text{（무한대）} $$

수학이 도출해낸 답은 **“이 게임의 기댓값은 무한대이다”**였습니다. 기댓값이 무한대인 이상, 참가비가 아무리 비싸도 이론상으로는 절대적으로 “이득인 도박"이라는 뜻이 됩니다.

이것이 1713년 니콜라우스 베르누이에 의해 제기된 **“상트페테르부르크의 역설”**입니다. 수학의 올바른 계산 결과(무한대의 가치가 있다)와 인간의 현실적인 감각(몇 달러만 지불하고 싶다)이 심하게 모순되는 것입니다.

3. 수학과 인간의 괴리를 해결하는 “효용"의 발견

이 역설을 해결한 사람은 니콜라우스의 사촌인 천재 수학자 다니엘 베르누이였습니다. (그가 상트페테르부르크의 과학 아카데미에서 이 논문을 발표했기 때문에 이런 이름이 붙었습니다.)

다니엘은 인간의 심리를 파고들었습니다. 그는 **“인간은 돈의 ‘절대적인 금액’이 아니라, 돈이 가져다주는 ‘만족도(효용)‘로 사물을 판단한다”**고 생각했습니다.

이것을 **“한계효용체감의 법칙”**이라고 부릅니다.

돈의 가치는 가진 양에 따라 떨어진다

예를 들어, 당신이 사막에서 목이 마를 때 첫 번째 물 한 잔은 “1만 엔을 내고서라도 마시고 싶을” 정도의 가치(만족도)가 있습니다. 하지만 2잔, 3잔을 마실수록 물 한 잔의 가치는 점점 떨어집니다. 10잔째가 되면 “이제 공짜라도 필요 없다"고 하게 될 것입니다.

돈도 이와 같습니다.

저축이 0인 사람이 받는 “100만 엔"은 인생을 구할 만큼 막대한 가치가 있습니다.
하지만 자산 100억 엔인 일론 머스크가 받는 “100만 엔"은 길가에 떨어져 있는 1엔짜리 동전 정도의 가치(만족도)밖에 없습니다.

즉, 상금이 2달러 $\rightarrow$ 4달러 $\rightarrow$ 8달러 $\rightarrow$ 16달러… 로 무한히 늘어나더라도, 인간이 느끼는 “기쁨(효용)“은 금액에 비례하여 무한히 늘어나지는 않는 것입니다.

4. “효용"을 사용하여 기댓값을 다시 계산하기

다니엘 베르누이는 “인간이 느끼는 돈의 가치(효용)는 금액의 로그($\log$)에 비례한다"고 가정했습니다.

금액을 $x$라고 했을 때, 인간이 느끼는 가치(효용) $u(x)$를 로그 함수로 나타내 봅니다(여기서는 밑을 2로 하는 단순한 모델을 생각합니다).

상금 $2$ 달러의 효용: $\log_2(2) = 1$
상금 $4$ 달러의 효용: $\log_2(4) = 2$
상금 $8$ 달러의 효용: $\log_2(8) = 3$
상금 $2^n$ 달러의 효용: $\log_2(2^n) = n$

금액은 배로 늘어나지만, 인간의 “기쁨"은 1, 2, 3…으로 조금씩만 늘어납니다. 이 “효용"을 사용하여 다시 기댓값(기대효용)을 계산해 보겠습니다.

$$ \text{기대효용} = \sum_{n=1}^{\infty} \left( n \times \left(\frac{1}{2}\right)^n \right) $$ $$ = 1 \cdot \frac{1}{2} + 2 \cdot \frac{1}{4} + 3 \cdot \frac{1}{8} + 4 \cdot \frac{1}{16} + \dots $$

이 무한급수의 합을 계산하면, 결과는 “무한대"가 되지 않고 “2"에 수렴합니다. 효용이 “2"인 금액을 역산하면, $2^2 = 4$ 달러가 됩니다.

즉, 인간의 심리(효용)를 포함시켜 다시 계산하면, **“이 게임의 가치는 인간의 감각으로는 대략 ‘4달러’ 정도이다”**라는 지극히 상식적이고 현실적인 답이 도출되는 것입니다. 그렇기 때문에 우리는 이 게임에 1만 달러를 지불할 마음이 생기지 않는 것입니다.

5. 요약: 경제학의 문을 연 역설

상트페테르부르크의 역설은 “금액"이라는 객관적인 숫자와 “인간의 만족도"라는 주관적인 가치가 일치하지 않음을 수학적으로 증명한 획기적인 역설이었습니다.

다니엘 베르누이가 제창한 “효용(Utility)“이라는 개념은 그 후 200년의 세월을 거쳐 현대 미시경제학과 금융공학(포트폴리오 이론 등)의 가장 중요한 기초가 되었습니다. 우리가 보험에 가입하거나 분산 투자를 하는 행동도 모두 이 “한계효용체감(큰 손해를 보는 고통은 큰 이익을 얻는 기쁨보다 훨씬 크다)“이라는 인간의 심리 메커니즘으로 설명할 수 있습니다.

단순한 도박의 계산 문제가 인간의 마음을 읽어내고, 경제학이라는 거대한 학문을 탄생시키는 계기가 된 것입니다.

두 개의 봉투 역설: 무한한 기댓값이 일으키는 논리의 붕괴와 의사결정의 함정

Thu, 10 Sep 2026 00:00:00 +0900

1. 궁극의 선택: 교환해야 할까, 말아야 할까?

당신은 게임 쇼의 최종 무대에 서 있습니다. 눈앞의 테이블에는 겉보기에 완전히 똑같은 두 개의 봉투(A와 B) 가 놓여 있습니다. 진행자는 이렇게 말했습니다.

“한쪽 봉투에는 다른 쪽 봉투의 2배의 돈이 들어 있습니다. 둘 중 하나를 선택해 주세요.”

당신은 고민 끝에 봉투 A를 선택했습니다. 내용물을 확인하려는 바로 그 순간, 진행자가 악마의 속삭임을 건넵니다.

“지금이라면 그 봉투 A를 남아있는 봉투 B와 교환해도 좋습니다. 교환하시겠습니까?”

자, 당신은 봉투를 교환해야 할까요?

2. 기댓값 계산이 이끌어내는 ‘무한 루프’

여기서 조금 수학적인 사고를 발휘해 봅시다. 당신이 가지고 있는 봉투 A에 들어있는 금액을 $X$ 엔이라고 가정합니다. 봉투 B에 들어있는 금액은 규칙상 ‘$X$ 엔의 절반($\frac{X}{2}$)‘이거나 ‘$X$ 엔의 2배($2X$)’ 둘 중 하나입니다. 각각의 확률은 $\frac{1}{2}$(50%)씩입니다.

그럼, 봉투를 교환했을 경우의 기댓값(예상되는 평균적인 금액) 을 계산해 봅시다.

$$ E = \frac{1}{2} \times \left(\frac{X}{2}\right) + \frac{1}{2} \times (2X) $$ $$ E = \frac{X}{4} + X = \frac{5}{4}X = 1.25X $$

놀라운 결과가 나왔습니다. 봉투를 교환하는 것만으로 기댓값이 원래의 $X$ 엔에서 $1.25$ 배(25% 상승)로 껑충 뛰는 것입니다. “수학적으로 생각하면 무조건 교환하는 것이 이득이다!“라는 결론에 이르게 됩니다.

하지만 여기서 논리의 붕괴가 일어납니다. 만약 당신이 봉투 B로 교환했다고 합시다. 그 직후, 진행자가 다시 “역시 A로 다시 바꾸시겠습니까?“라고 묻는다면 어떻게 될까요? 완전히 똑같은 계산식이 성립되어 이번에는 “B에서 A로 교환하면 기댓값이 1.25배가 된다"는 결론이 나옵니다.

즉, ‘A에서 B로’, ‘B에서 A로’ 계속 교환하는 것만으로 이론상의 기댓값이 무한히 계속 늘어나게 되는 것입니다. 이는 명백히 현실과 모순됩니다(봉투의 내용물은 처음부터 확정되어 있으며, 교환한다고 해서 늘어나는 것이 아닙니다).

graph TD Start["당신이 봉투 A를 선택함 (내용물은 X엔)"] --> Think["교환하는 것이 이득일지 계산함"] Think --> Case1["봉투 B가 절반액 (X/2엔) : 확률 50%"] Think --> Case2["봉투 B가 2배액 (2X엔) : 확률 50%"] Case1 --> Calc["기댓값 = (X/4) + X = 1.25X"] Case2 --> Calc Calc --> SwitchToB["봉투 B로 교환함! (내용물은 Y엔)"] SwitchToB --> ThinkAgain["다시 계산함"] ThinkAgain --> Case3["봉투 A가 절반액 (Y/2엔) : 확률 50%"] ThinkAgain --> Case4["봉투 A가 2배액 (2Y엔) : 확률 50%"] Case3 --> Calc2["기댓값 = 1.25Y"] Case4 --> Calc2 Calc2 --> SwitchToA["다시 봉투 A로 교환함!"] SwitchToA --> Start style Calc fill:#ff9999,stroke:#333,stroke-width:2px style Calc2 fill:#ff9999,stroke:#333,stroke-width:2px style SwitchToA fill:#ff4444,color:#fff,stroke:#333,stroke-width:4px

왜 언뜻 보기에 완벽해 보이는 기댓값 계산이 이런 이상한 역설을 만들어낸 것일까요?

3. 수학적 트릭의 규명: 변수의 바꿔치기

이 역설의 함정은 **‘확률변수 $X$ 의 사용법’**에 있습니다.

앞서 본 계산식에서는 봉투 A의 금액 $X$ 를 고정된 상수처럼 취급하고, 봉투 B가 ‘$\frac{X}{2}$ 또는 $2X$‘일 것이라고 가정했습니다. 하지만 본래 고정되어 있는 것은 ‘두 봉투에 들어있는 금액의 합계’ 또는 **‘적은 쪽의 금액’**입니다.

적은 쪽 봉투에 들어있는 금액을 $S$ 라고 해봅시다. 그러면 많은 쪽 봉투에는 $2S$ 의 금액이 들어있습니다. 게임의 전체 시나리오는 다음의 2가지 패턴밖에 없습니다(확률은 각각 $\frac{1}{2}$).

패턴 1: 당신이 선택한 봉투 A가 적은 쪽($S$)이고, 봉투 B가 많은 쪽($2S$)
패턴 2: 당신이 선택한 봉투 A가 많은 쪽($2S$)이고, 봉투 B가 적은 쪽($S$)

여기서 봉투를 **‘교환하지 않을 경우’**와 **‘교환할 경우’**의 기댓값을 올바르게 계산해 보겠습니다.

교환하지 않을 경우의 기댓값 $E_{stay}$:

$$ E_{stay} = \frac{1}{2} \times S + \frac{1}{2} \times 2S = \frac{3}{2}S = 1.5S $$

교환할 경우의 기댓값 $E_{switch}$: 패턴 1일 때는 $2S$ 를 얻고, 패턴 2일 때는 $S$ 를 얻습니다.

$$ E_{switch} = \frac{1}{2} \times 2S + \frac{1}{2} \times S = \frac{3}{2}S = 1.5S $$ $$ E_{stay} = E_{switch} $$

놀랍게도 기댓값은 일치했습니다! 처음의 잘못된 계산에서는 패턴 1일 때의 $X$ (사실은 $S$)와 패턴 2일 때의 $X$ (사실은 $2S$)라는 서로 다른 값을 같은 변수 $X$ 로 취급해 버렸기 때문에 ‘교환하면 기댓값이 올라간다’는 환영이 생겨난 것입니다.

pie title "기댓값의 진실 (적은 쪽의 금액을 S라고 했을 경우)" "교환하지 않는 기댓값 (1.5S)" : 50 "교환하는 기댓값 (1.5S)" : 50

4. 봉투를 열어버린다면 어떻게 될까?

이로써 역설은 해결된 것처럼 보입니다. 하지만 더 깊은 문제가 기다리고 있습니다.

만약 당신이 봉투를 교환하기 전에 자신의 봉투 A의 내용물을 봐 버렸다고 한다면 어떨까요? 당신이 봉투 A를 열었더니 그 안에는 **‘1만 엔’**이 들어 있었습니다.

이 순간, $X = 10000$ 이라는 확정된 값이 됩니다. 봉투 B에는 ‘5,000엔’이나 ‘20,000엔’ 둘 중 하나가 들어있습니다. 여기서 처음의 계산식을 대입하면 어떻게 될까요?

$$ E_{switch} = \frac{1}{2} \times 5000 + \frac{1}{2} \times 20000 = 2500 + 10000 = 12500 $$

기댓값은 12,500엔. 현재의 10,000엔보다 확실히 높습니다. 게다가 이번에는 $X$ 가 10,000엔이라는 ‘구체적인 상수’가 되었기 때문에 앞서 말한 ‘변수의 바꿔치기’라는 반론이 통하지 않습니다. 그렇다면 무조건 교환하는 것이 이득인 것일까요?

베이즈 추정에 의한 반증: ‘사전 분포’의 누락

수학자들은 이에 대해 **‘금액의 사전 분포(사전 확률)’**라는 개념을 꺼내 들었습니다. 5,000엔과 20,000엔이 정말로 각각 $\frac{1}{2}$ 의 확률로 들어있다고 말할 수 있을까? 라는 의문입니다.

예를 들어, 프로그램의 예산이 최대 1억 엔이라고 가정해 봅시다. 만약 당신이 봉투 A를 열어서 ‘6,000만 엔’이 들어있었다면, 봉투 B에 ‘1억 2,000만 엔’이 들어있을 확률은 0입니다(예산 초과이기 때문입니다). 즉, 봉투 A의 금액이 커지면 커질수록 봉투 B가 ‘2배’일 확률은 낮아지고 ‘절반’일 확률이 올라가야 하는 것입니다.

임의의 사전 분포 $P(x)$ 를 가정한 경우, 베이즈 정리를 이용해 기댓값을 계산하면 그 어떤 현실적인(총합이 1이 되는) 확률 분포라 할지라도 모든 금액 $X$ 에 대해 ‘교환하는 것이 이득’이 되는 마법과 같은 분포는 존재하지 않는다는 것이 수학적으로 증명되어 있습니다.

5. 무한의 함정: 상트페테르부르크의 역설과의 연결고리

유일하게 ‘모든 $X$ 에 대해 교환하는 것이 이득’이 되는 경우가 존재합니다. 그것은 프로그램의 예산이 무한대이며 모든 금액(1엔, 2엔, 4엔, 8엔……무한)이 균등하게 출현하는 ‘비정칙 확률 분포(총합이 무한대가 되는 분포)‘를 가정했을 경우뿐입니다.

하지만 현실 세계에 무한한 자산을 가진 방송국은 존재하지 않습니다. 이 ‘무한대의 기댓값’이 일으키는 버그는 상트페테르부르크의 역설(무한한 기댓값을 가진 도박에 사람은 얼마까지 지불할 수 있는가 하는 문제)과 깊은 뿌리를 같이 하고 있습니다.

6. 요약: 확률과 기댓값의 무서움

‘두 개의 봉투 역설’은 단순한 곱셈과 덧셈만으로 구성되어 있음에도 불구하고, 우리에게 다음과 같은 교훈을 줍니다.

정의의 모호함이 낳는 오류: 변수가 무엇을 가리키는지($X$ 가 항상 같은 금액을 가리키는지) 명확히 하지 않으면 논리는 쉽게 붕괴됩니다.
‘정보가 없다 = 확률 50%‘라는 착각: ‘모르니까 반반이겠지’라는 전제(이유 불충분의 원칙)는 때로 치명적인 계산 실수를 일으킵니다.
무한을 다루는 것의 어려움: 현실 세계에 적용할 수 없는 ‘무한’의 개념을 계산식에 도입하면 상식에 반하는 결과가 생겨납니다.

다음에 인생에서 ‘남의 떡이 더 커 보이고 교환하는 것이 이득이다’라고 생각될 때는 이 역설을 떠올려 보세요. 당신의 계산식 속에서 변수가 슬그머니 바뀌어 있을지도 모릅니다.