경제학 on kenji.blog

상트페테르부르크의 역설: 기댓값이 "무한대"인 도박에 당신은 얼마를 지불하시겠습니까?

Thu, 10 Sep 2026 05:00:00 +0900

1. 기댓값이 “무한대"인 꿈의 도박

카지노를 걷고 있던 당신은 딜러로부터 다음과 같은 새로운 동전 던지기 게임을 제안받았습니다.

【게임 규칙】

참가비를 지불하고 게임을 시작합니다.
동전을 던집니다. 앞면이 나오면 상금이 2배가 되고, 한 번 더 던질 수 있습니다.
뒷면이 나오는 시점에서 게임이 종료됩니다. 그 시점까지 쌓인 상금을 받습니다.

첫 상금은 2달러부터 시작합니다.

1번째에 뒷면이 나오면, 2달러를 받고 종료.
1번째에 앞면, 2번째에 뒷면이 나오면, 4달러를 받고 종료.
1번째 앞면, 2번째 앞면, 3번째에 뒷면이 나오면, 8달러를 받고 종료.
…이후 앞면이 계속 나오는 한 상금은 16달러, 32달러, 64달러…로 배로 늘어납니다.

graph TD Start["게임 시작"] --> Toss1{"1번째 동전 던지기"} Toss1 -->|뒷면 (1/2)| End1["종료: 2달러 획득"] Toss1 -->|앞면 (1/2)| Toss2{"2번째 동전 던지기"} Toss2 -->|뒷면 (1/2)| End2["종료: 4달러 획득"] Toss2 -->|앞면 (1/2)| Toss3{"3번째 동전 던지기"} Toss3 -->|뒷면 (1/2)| End3["종료: 8달러 획득"] Toss3 -->|앞면 (1/2)| Toss4{"..."} Toss4 -.->|연속될수록| Infinite["상금은 무한대로 배증!"]

자, 여기서 당신에게 질문입니다. 이 게임의 참가비가 “1만 달러(약 150만 엔)“라고 한다면, 당신은 참가하시겠습니까?

아마도 대부분의 사람은 “참가하지 않겠다"고 답할 것입니다. 왜냐하면 절반의 확률로 첫 던지기에서 뒷면이 나와 겨우 2달러만 받고 큰 손해를 보기 때문입니다.

하지만 수학의 확률론(기댓값)에 충실하게 계산해 보면 놀라운 사실이 밝혀집니다. 수학적으로는 참가비가 1만 달러든 1억 엔이든, 전 재산을 빚내서라도 이 게임에 참가해야 합니다.

도대체 왜 그럴까요?

2. 기댓값을 계산해 보자

도박이 “이득인지 손해인지"를 판단하기 위한 수학적 지표로 **“기댓값”**이 있습니다. 기댓값이란, “그 게임을 여러 번 반복했을 때 1회당 평균적으로 어느 정도 이익을 얻는지"를 나타내는 수치입니다. 계산식은 "(받을 수 있는 상금) × (그 확률)“을 모두 더한 것이 됩니다.

이번 게임의 기댓값을 계산해 보겠습니다.

1번째에 뒷면이 나올 확률: $\frac{1}{2}$ 상금은 $2$ 달러. 기댓값에 대한 기여 ＝ $2 \times \frac{1}{2} = 1$ 달러
2번째에 뒷면이 나올 확률: 앞면·뒷면 순으로 나오므로 $\frac{1}{2} \times \frac{1}{2} = \frac{1}{4}$ 상금은 $4$ 달러. 기댓값에 대한 기여 ＝ $4 \times \frac{1}{4} = 1$ 달러
3번째에 뒷면이 나올 확률: 앞면·앞면·뒷면 순으로 나오므로 $(\frac{1}{2})^3 = \frac{1}{8}$ 상금은 $8$ 달러. 기댓값에 대한 기여 ＝ $8 \times \frac{1}{8} = 1$ 달러
$n$번째에 뒷면이 나올 확률: $(\frac{1}{2})^n$ 상금은 $2^n$ 달러. 기댓값에 대한 기여 ＝ $2^n \times (\frac{1}{2})^n = 1$ 달러

즉, 몇 번째에 끝나든 그 패턴의 기댓값은 **항상 “1달러”**가 됩니다. 게임은 무한히 계속될 가능성이 있기 때문에, 이 기댓값을 모두 더하면 다음과 같이 됩니다.

$$ \text{총 기댓값} = 1 + 1 + 1 + 1 + \dots = \infty \text{（무한대）} $$

수학이 도출해낸 답은 **“이 게임의 기댓값은 무한대이다”**였습니다. 기댓값이 무한대인 이상, 참가비가 아무리 비싸도 이론상으로는 절대적으로 “이득인 도박"이라는 뜻이 됩니다.

이것이 1713년 니콜라우스 베르누이에 의해 제기된 **“상트페테르부르크의 역설”**입니다. 수학의 올바른 계산 결과(무한대의 가치가 있다)와 인간의 현실적인 감각(몇 달러만 지불하고 싶다)이 심하게 모순되는 것입니다.

3. 수학과 인간의 괴리를 해결하는 “효용"의 발견

이 역설을 해결한 사람은 니콜라우스의 사촌인 천재 수학자 다니엘 베르누이였습니다. (그가 상트페테르부르크의 과학 아카데미에서 이 논문을 발표했기 때문에 이런 이름이 붙었습니다.)

다니엘은 인간의 심리를 파고들었습니다. 그는 **“인간은 돈의 ‘절대적인 금액’이 아니라, 돈이 가져다주는 ‘만족도(효용)‘로 사물을 판단한다”**고 생각했습니다.

이것을 **“한계효용체감의 법칙”**이라고 부릅니다.

돈의 가치는 가진 양에 따라 떨어진다

예를 들어, 당신이 사막에서 목이 마를 때 첫 번째 물 한 잔은 “1만 엔을 내고서라도 마시고 싶을” 정도의 가치(만족도)가 있습니다. 하지만 2잔, 3잔을 마실수록 물 한 잔의 가치는 점점 떨어집니다. 10잔째가 되면 “이제 공짜라도 필요 없다"고 하게 될 것입니다.

돈도 이와 같습니다.

저축이 0인 사람이 받는 “100만 엔"은 인생을 구할 만큼 막대한 가치가 있습니다.
하지만 자산 100억 엔인 일론 머스크가 받는 “100만 엔"은 길가에 떨어져 있는 1엔짜리 동전 정도의 가치(만족도)밖에 없습니다.

즉, 상금이 2달러 $\rightarrow$ 4달러 $\rightarrow$ 8달러 $\rightarrow$ 16달러… 로 무한히 늘어나더라도, 인간이 느끼는 “기쁨(효용)“은 금액에 비례하여 무한히 늘어나지는 않는 것입니다.

4. “효용"을 사용하여 기댓값을 다시 계산하기

다니엘 베르누이는 “인간이 느끼는 돈의 가치(효용)는 금액의 로그($\log$)에 비례한다"고 가정했습니다.

금액을 $x$라고 했을 때, 인간이 느끼는 가치(효용) $u(x)$를 로그 함수로 나타내 봅니다(여기서는 밑을 2로 하는 단순한 모델을 생각합니다).

상금 $2$ 달러의 효용: $\log_2(2) = 1$
상금 $4$ 달러의 효용: $\log_2(4) = 2$
상금 $8$ 달러의 효용: $\log_2(8) = 3$
상금 $2^n$ 달러의 효용: $\log_2(2^n) = n$

금액은 배로 늘어나지만, 인간의 “기쁨"은 1, 2, 3…으로 조금씩만 늘어납니다. 이 “효용"을 사용하여 다시 기댓값(기대효용)을 계산해 보겠습니다.

$$ \text{기대효용} = \sum_{n=1}^{\infty} \left( n \times \left(\frac{1}{2}\right)^n \right) $$ $$ = 1 \cdot \frac{1}{2} + 2 \cdot \frac{1}{4} + 3 \cdot \frac{1}{8} + 4 \cdot \frac{1}{16} + \dots $$

이 무한급수의 합을 계산하면, 결과는 “무한대"가 되지 않고 “2"에 수렴합니다. 효용이 “2"인 금액을 역산하면, $2^2 = 4$ 달러가 됩니다.

즉, 인간의 심리(효용)를 포함시켜 다시 계산하면, **“이 게임의 가치는 인간의 감각으로는 대략 ‘4달러’ 정도이다”**라는 지극히 상식적이고 현실적인 답이 도출되는 것입니다. 그렇기 때문에 우리는 이 게임에 1만 달러를 지불할 마음이 생기지 않는 것입니다.

5. 요약: 경제학의 문을 연 역설

상트페테르부르크의 역설은 “금액"이라는 객관적인 숫자와 “인간의 만족도"라는 주관적인 가치가 일치하지 않음을 수학적으로 증명한 획기적인 역설이었습니다.

다니엘 베르누이가 제창한 “효용(Utility)“이라는 개념은 그 후 200년의 세월을 거쳐 현대 미시경제학과 금융공학(포트폴리오 이론 등)의 가장 중요한 기초가 되었습니다. 우리가 보험에 가입하거나 분산 투자를 하는 행동도 모두 이 “한계효용체감(큰 손해를 보는 고통은 큰 이익을 얻는 기쁨보다 훨씬 크다)“이라는 인간의 심리 메커니즘으로 설명할 수 있습니다.

단순한 도박의 계산 문제가 인간의 마음을 읽어내고, 경제학이라는 거대한 학문을 탄생시키는 계기가 된 것입니다.

죄수의 딜레마: 왜 우리는 "모두가 손해 보는" 선택을 하고 마는가?

Thu, 10 Sep 2026 03:00:00 +0900

1. 궁극의 선택: 묵비권을 행사할 것인가, 배신할 것인가?

당신은 어떤 범죄의 용의자로 공범인 친구와 함께 경찰에 붙잡히고 말았습니다. 두 사람은 서로 다른 취조실에 들어가게 되었고, 서로 연락을 취하는 것은 일절 불가능합니다.

경찰은 증거를 완전히 확보하지 못했기 때문에, 검사는 당신과 친구에게 각각 다음과 같은 “사법 거래"를 제안했습니다.

둘 다 “묵비권 행사(협력)“를 한 경우: 증거 불충분으로, 두 사람 모두 징역 1년으로 끝난다.
당신이 “자백(배신)“하고, 친구가 “묵비권 행사"를 한 경우: 수사에 협조한 당신은 **무죄(즉시 석방)**가 되지만, 친구는 모든 죄를 뒤집어쓰고 징역 10년이 된다. (반대의 경우도 마찬가지)
둘 다 “자백(배신)“을 한 경우: 두 사람 모두 죄를 인정했기 때문에, 형이 조금 감경되어 두 사람 모두 징역 5년이 된다.

자, 당신이라면 어떻게 하시겠습니까? “묵비권(상대방과 협력)“을 행사하시겠습니까? 아니면 “자백(상대방을 배신)“하시겠습니까?

2. 이득표(페이오프 매트릭스)를 통한 분석

이 상황을 게임 이론에서 사용되는 “이득표"로 정리해 봅시다. 칸 안의 숫자는 (당신의 징역 연수, 친구의 징역 연수)를 나타냅니다. 마이너스는 손실(징역 연수)을 의미합니다.

당신 \ 친구	묵비권 행사(협조)	자백하기(배신)
묵비권 행사(협조)	(-1, -1)	(-10, 0)
자백하기(배신)	(0, -10)	(-5, -5)

객관적으로 보면, 두 사람이 취해야 할 최적의 행동은 명확합니다. 둘 다 “묵비권"을 행사하면, 전체 형기는 단 2년(-1과 -1)으로 끝납니다. 이것이 전체의 이익을 극대화하는 “파레토 최적” 상태입니다.

하지만 당신이 “자신의 이익만을 극대화하려는 합리적인 인간"이라면, 전혀 다른 결론이 도출됩니다.

3. 왜 “배신"이 합리적인 선택이 되는가?

당신이 다른 방에 있는 “친구"의 행동을 예측하여 자신의 행동을 결정하는 사고 과정을 따라가 봅시다.

케이스 1: 친구가 “묵비권"을 행사할 것이라고 예측한 경우

나도 “묵비권"을 행사하면, 징역 1년.
내가 “자백"하면, 무죄(즉시 석방). $\rightarrow$ 무죄가 더 좋으므로, **“자백(배신)”**이 최적.

케이스 2: 친구가 “자백"할 것이라고 예측한 경우

나도 “묵비권"을 행사하면, 징역 10년.
내가 “자백"하면, 징역 5년. $\rightarrow$ 징역 5년이 더 나으므로, 역시 **“자백(배신)”**이 최적.

눈치채셨나요? 상대방이 어떤 행동을 취하든 간에, 당신에게는 “자백(배신)“하는 것이 항상 더 유리합니다. 이것을 게임 이론에서는 **“우월 전략(Dominant Strategy)”**이라고 부릅니다.

친구도 완전히 같은 상황에 놓여 있고 완전히 똑같이 합리적으로 생각하기 때문에, 친구에게도 “자백"이 우월 전략이 됩니다.

결과적으로, 합리적으로 생각한 두 사람은 반드시 서로 “자백(배신)“을 선택합니다. 그 결과 도달하게 되는 것은 **둘 다 징역 5년(-5, -5)**이라는, 전체적으로 보면 최악에 가까운 결말입니다. 둘이서 협력(묵비권)했다면 징역 1년으로 끝났을 텐데, 개인의 합리성을 추구한 결과 서로 손해를 보고 마는 것입니다.

graph TD Start["선택의 시작"] --> Logic_You["당신의 합리적 사고"] Start --> Logic_Friend["친구의 합리적 사고"] Logic_You -->|상대가 묵비권을 행사하면 자백이 이득
상대가 자백해도 자백이 이득| Betray_You["당신은 자백(배신)을 선택"] Logic_Friend -->|상대가 묵비권을 행사하면 자백이 이득
상대가 자백해도 자백이 이득| Betray_Friend["친구는 자백(배신)을 선택"] Betray_You --> Result["결과: 양측 자백 (-5, -5)"] Betray_Friend --> Result Ideal["이상: 양측 묵비권 (-1, -1)"] -.->|개인의 합리성이 방해되어
도달할 수 없음| Result style Result fill:#ff9999,stroke:#333,stroke-width:2px style Ideal fill:#99ff99,stroke:#333,stroke-width:2px

이처럼 “서로 상대의 행동을 예측한 결과, 서로 전략을 바꿀 동기가 없는(더 이상 어쩔 수 없는) 상태"를 게임 이론의 대가 존 내시의 이름을 따서 **“내시 균형(Nash Equilibrium)”**이라고 부릅니다.

죄수의 딜레마에서 가장 무서운 점은, “파레토 최적(전체에게 가장 좋은 결과)“과 “내시 균형(개인의 합리성이 도달하는 곳)“이 일치하지 않는다는 점에 있습니다.

4. 일상 사회에 숨어 있는 “죄수의 딜레마”

죄수의 딜레마는 단순한 퀴즈가 아닙니다. 우리 사회에서 일어나고 있는 많은 문제들이 이 수학 모델로 설명됩니다.

1. 가격 경쟁(할인 경쟁)

두 경쟁 기업이 비슷한 상품을 1000원에 팔고 있습니다. 양사가 1000원을 유지(협조)하면 양사 모두 높은 이익을 얻을 수 있습니다. 하지만, “상대보다 조금만 싸게 해서(배신), 손님을 독점하자"라는 유혹에 넘어가 양사가 할인 경쟁을 시작합니다. 결과적으로 상품은 500원이 되고 양사 모두 이익을 내지 못하고 고통받는(양측 배신) 상황이 됩니다.

2. 환경 문제와 온실가스

전 세계 국가들이 “CO2 배출을 줄이자(협조)“라고 약속합니다. 이것이 지구 전체를 위한 최적의 해답입니다. 하지만 자국만 “배출 제한을 무시하고 공장을 가동(배신)“함으로써 자국의 경제만 급성장시킬 수 있습니다. 반대로, 타국이 배신했는데 자국만 규칙을 지키면 자국만 경제적으로 큰 손해를 봅니다. 결과적으로 어느 나라도 남들이 먼저 빠져나갈까 두려워 배신을 선택하고, 지구 환경은 파괴되어 갑니다.

3. 스포츠의 도핑 문제

선수 전원이 도핑을 하지 않는(협조) 것이 이상적입니다. 하지만 “상대가 도핑을 하고 있을지도 모른다"는 의심이나 “나만 도핑하면 이길 수 있다"는 유혹 때문에 도핑(배신)을 선택하고 맙니다. 결과적으로 전원이 건강을 해쳐가며 약물에 찌든 채 싸우는 최악의 상황에 빠집니다.

5. 해결책은 있는가? “팃포탯(Tit for Tat) 전략”

일회성 거래에서는 “배신"이 항상 합리적인 선택이 되어버립니다. 하지만 이것이 “같은 상대와 여러 번 반복되는 게임(반복되는 죄수의 딜레마)“이 되면 상황은 극적으로 바뀝니다.

1980년대, 정치학자 로버트 액설로드는 다양한 전략이 프로그래밍된 컴퓨터끼리 대전하는 토너먼트를 열었습니다. “항상 배신한다”, “무작위로 배신한다”, “상대를 용서한다” 등 전 세계 학자들로부터 모인 복잡한 전략들 중에서 압도적인 성적으로 우승한 것은 가장 단순한 **“팃포탯 전략(Tit for Tat, 눈에는 눈 이에는 이)”**이었습니다.

팃포탯 전략의 규칙은 단지 이것뿐입니다.

처음에는 반드시 “협조"한다.
다음부터는, 이전 턴에 “상대가 취한 행동"을 그대로 따라 한다.
- 상대가 이전에 협조해 주었다면, 이번에는 협조한다.
- 상대가 이전에 배신했다면, 이번에는 배신으로 보복한다.

이 전략이 강력한 이유는 “먼저 절대 배신하지 않는다(선량함)”, “배신당하면 즉각 벌을 준다(엄격함)”, “상대가 태도를 고치면 바로 용서한다(관대함)”, “구조가 단순하여 상대에게 전달되기 쉽다(명료함)“라는 4가지 특징을 갖추고 있기 때문입니다.

인간관계나 국제사회에서도 장기적인 관계가 전제되어 있다면, “팃포탯 전략"처럼 **“기본적으로는 협력하되, 배신에는 페널티를 준다”**는 규칙을 공유함으로써 죄수의 딜레마를 극복하고 협력 관계를 구축할 수 있습니다.

6. 결론: 수학이 가르쳐 주는 “신뢰"의 가치

죄수의 딜레마는 “인간의 이기적인 합리성"이 때로는 사회 전체를 불행의 구렁텅이로 빠뜨린다는 것을 수학적으로 증명했습니다. “나 혼자만 이득을 보고 싶다” 혹은 “남에게 당하고 싶지 않다"는 개인의 합리성은 결국 자기 자신의 목을 조르는 결과(내시 균형)를 초래합니다.

하지만 동시에 “관계가 장기적으로 이어진다"는 조건만 있다면, “서로 신뢰하고 협력하는 것"이 결과적으로 자기 자신의 이익도 극대화하는 가장 합리적인 전략이라는 것 또한 게임 이론은 가르쳐 주고 있습니다.

당신이 다음에 “나 혼자만 살짝 꼼수를 부려볼까” 하고 망설일 때, 이 죄수의 딜레마의 이득표를 떠올려 보십시오. 눈앞의 이익을 좇는 “합리적인 배신"은 장기적으로는 가장 비합리적인 선택일지도 모르니까요.