상트페테르부르크의 역설: 기댓값이 "무한대"인 도박에 당신은 얼마를 지불하시겠습니까?

1. 기댓값이 “무한대"인 꿈의 도박

카지노를 걷고 있던 당신은 딜러로부터 다음과 같은 새로운 동전 던지기 게임을 제안받았습니다.

【게임 규칙】

참가비를 지불하고 게임을 시작합니다.
동전을 던집니다. 앞면이 나오면 상금이 2배가 되고, 한 번 더 던질 수 있습니다.
뒷면이 나오는 시점에서 게임이 종료됩니다. 그 시점까지 쌓인 상금을 받습니다.

첫 상금은 2달러부터 시작합니다.

1번째에 뒷면이 나오면, 2달러를 받고 종료.
1번째에 앞면, 2번째에 뒷면이 나오면, 4달러를 받고 종료.
1번째 앞면, 2번째 앞면, 3번째에 뒷면이 나오면, 8달러를 받고 종료.
…이후 앞면이 계속 나오는 한 상금은 16달러, 32달러, 64달러…로 배로 늘어납니다.

graph TD Start["게임 시작"] --> Toss1{"1번째 동전 던지기"} Toss1 -->|뒷면 (1/2)| End1["종료: 2달러 획득"] Toss1 -->|앞면 (1/2)| Toss2{"2번째 동전 던지기"} Toss2 -->|뒷면 (1/2)| End2["종료: 4달러 획득"] Toss2 -->|앞면 (1/2)| Toss3{"3번째 동전 던지기"} Toss3 -->|뒷면 (1/2)| End3["종료: 8달러 획득"] Toss3 -->|앞면 (1/2)| Toss4{"..."} Toss4 -.->|연속될수록| Infinite["상금은 무한대로 배증!"]

자, 여기서 당신에게 질문입니다. 이 게임의 참가비가 “1만 달러(약 150만 엔)“라고 한다면, 당신은 참가하시겠습니까?

아마도 대부분의 사람은 “참가하지 않겠다"고 답할 것입니다. 왜냐하면 절반의 확률로 첫 던지기에서 뒷면이 나와 겨우 2달러만 받고 큰 손해를 보기 때문입니다.

하지만 수학의 확률론(기댓값)에 충실하게 계산해 보면 놀라운 사실이 밝혀집니다. 수학적으로는 참가비가 1만 달러든 1억 엔이든, 전 재산을 빚내서라도 이 게임에 참가해야 합니다.

도대체 왜 그럴까요?

2. 기댓값을 계산해 보자

도박이 “이득인지 손해인지"를 판단하기 위한 수학적 지표로 **“기댓값”**이 있습니다. 기댓값이란, “그 게임을 여러 번 반복했을 때 1회당 평균적으로 어느 정도 이익을 얻는지"를 나타내는 수치입니다. 계산식은 "(받을 수 있는 상금) × (그 확률)“을 모두 더한 것이 됩니다.

이번 게임의 기댓값을 계산해 보겠습니다.

1번째에 뒷면이 나올 확률: $\frac{1}{2}$ 상금은 $2$ 달러. 기댓값에 대한 기여 ＝ $2 \times \frac{1}{2} = 1$ 달러
2번째에 뒷면이 나올 확률: 앞면·뒷면 순으로 나오므로 $\frac{1}{2} \times \frac{1}{2} = \frac{1}{4}$ 상금은 $4$ 달러. 기댓값에 대한 기여 ＝ $4 \times \frac{1}{4} = 1$ 달러
3번째에 뒷면이 나올 확률: 앞면·앞면·뒷면 순으로 나오므로 $(\frac{1}{2})^3 = \frac{1}{8}$ 상금은 $8$ 달러. 기댓값에 대한 기여 ＝ $8 \times \frac{1}{8} = 1$ 달러
$n$번째에 뒷면이 나올 확률: $(\frac{1}{2})^n$ 상금은 $2^n$ 달러. 기댓값에 대한 기여 ＝ $2^n \times (\frac{1}{2})^n = 1$ 달러

즉, 몇 번째에 끝나든 그 패턴의 기댓값은 **항상 “1달러”**가 됩니다. 게임은 무한히 계속될 가능성이 있기 때문에, 이 기댓값을 모두 더하면 다음과 같이 됩니다.

$$ \text{총 기댓값} = 1 + 1 + 1 + 1 + \dots = \infty \text{（무한대）} $$

수학이 도출해낸 답은 **“이 게임의 기댓값은 무한대이다”**였습니다. 기댓값이 무한대인 이상, 참가비가 아무리 비싸도 이론상으로는 절대적으로 “이득인 도박"이라는 뜻이 됩니다.

이것이 1713년 니콜라우스 베르누이에 의해 제기된 **“상트페테르부르크의 역설”**입니다. 수학의 올바른 계산 결과(무한대의 가치가 있다)와 인간의 현실적인 감각(몇 달러만 지불하고 싶다)이 심하게 모순되는 것입니다.

3. 수학과 인간의 괴리를 해결하는 “효용"의 발견

이 역설을 해결한 사람은 니콜라우스의 사촌인 천재 수학자 다니엘 베르누이였습니다. (그가 상트페테르부르크의 과학 아카데미에서 이 논문을 발표했기 때문에 이런 이름이 붙었습니다.)

다니엘은 인간의 심리를 파고들었습니다. 그는 **“인간은 돈의 ‘절대적인 금액’이 아니라, 돈이 가져다주는 ‘만족도(효용)‘로 사물을 판단한다”**고 생각했습니다.

이것을 **“한계효용체감의 법칙”**이라고 부릅니다.

돈의 가치는 가진 양에 따라 떨어진다

예를 들어, 당신이 사막에서 목이 마를 때 첫 번째 물 한 잔은 “1만 엔을 내고서라도 마시고 싶을” 정도의 가치(만족도)가 있습니다. 하지만 2잔, 3잔을 마실수록 물 한 잔의 가치는 점점 떨어집니다. 10잔째가 되면 “이제 공짜라도 필요 없다"고 하게 될 것입니다.

돈도 이와 같습니다.

저축이 0인 사람이 받는 “100만 엔"은 인생을 구할 만큼 막대한 가치가 있습니다.
하지만 자산 100억 엔인 일론 머스크가 받는 “100만 엔"은 길가에 떨어져 있는 1엔짜리 동전 정도의 가치(만족도)밖에 없습니다.

즉, 상금이 2달러 $\rightarrow$ 4달러 $\rightarrow$ 8달러 $\rightarrow$ 16달러… 로 무한히 늘어나더라도, 인간이 느끼는 “기쁨(효용)“은 금액에 비례하여 무한히 늘어나지는 않는 것입니다.

4. “효용"을 사용하여 기댓값을 다시 계산하기

다니엘 베르누이는 “인간이 느끼는 돈의 가치(효용)는 금액의 로그($\log$)에 비례한다"고 가정했습니다.

금액을 $x$라고 했을 때, 인간이 느끼는 가치(효용) $u(x)$를 로그 함수로 나타내 봅니다(여기서는 밑을 2로 하는 단순한 모델을 생각합니다).

상금 $2$ 달러의 효용: $\log_2(2) = 1$
상금 $4$ 달러의 효용: $\log_2(4) = 2$
상금 $8$ 달러의 효용: $\log_2(8) = 3$
상금 $2^n$ 달러의 효용: $\log_2(2^n) = n$

금액은 배로 늘어나지만, 인간의 “기쁨"은 1, 2, 3…으로 조금씩만 늘어납니다. 이 “효용"을 사용하여 다시 기댓값(기대효용)을 계산해 보겠습니다.

$$ \text{기대효용} = \sum_{n=1}^{\infty} \left( n \times \left(\frac{1}{2}\right)^n \right) $$ $$ = 1 \cdot \frac{1}{2} + 2 \cdot \frac{1}{4} + 3 \cdot \frac{1}{8} + 4 \cdot \frac{1}{16} + \dots $$

이 무한급수의 합을 계산하면, 결과는 “무한대"가 되지 않고 “2"에 수렴합니다. 효용이 “2"인 금액을 역산하면, $2^2 = 4$ 달러가 됩니다.

즉, 인간의 심리(효용)를 포함시켜 다시 계산하면, **“이 게임의 가치는 인간의 감각으로는 대략 ‘4달러’ 정도이다”**라는 지극히 상식적이고 현실적인 답이 도출되는 것입니다. 그렇기 때문에 우리는 이 게임에 1만 달러를 지불할 마음이 생기지 않는 것입니다.

5. 요약: 경제학의 문을 연 역설

상트페테르부르크의 역설은 “금액"이라는 객관적인 숫자와 “인간의 만족도"라는 주관적인 가치가 일치하지 않음을 수학적으로 증명한 획기적인 역설이었습니다.

다니엘 베르누이가 제창한 “효용(Utility)“이라는 개념은 그 후 200년의 세월을 거쳐 현대 미시경제학과 금융공학(포트폴리오 이론 등)의 가장 중요한 기초가 되었습니다. 우리가 보험에 가입하거나 분산 투자를 하는 행동도 모두 이 “한계효용체감(큰 손해를 보는 고통은 큰 이익을 얻는 기쁨보다 훨씬 크다)“이라는 인간의 심리 메커니즘으로 설명할 수 있습니다.

단순한 도박의 계산 문제가 인간의 마음을 읽어내고, 경제학이라는 거대한 학문을 탄생시키는 계기가 된 것입니다.