게임 이론 on kenji.blog

도로를 새로 만들었는데 어째서인지 교통 체증이 악화되었다?: 브라스의 역설

Thu, 10 Sep 2026 21:00:00 +0900

아침 출근길 러시. 매일 막히는 도로 때문에 짜증이 난 당신에게 희소식이 들려왔습니다. “교통 체증 해소를 위해 도시 계획 부서에서 최신 지름길(쇼트컷) 도로를 건설했습니다!” 이걸로 내일부터는 조금 더 오래 잘 수 있겠다고 누구나 기대했을 것입니다.

하지만 다음 날, 새로운 도로가 개통되자 상황은 좋아지기는커녕 예전보다 더 심한 대정체를 일으켰고, 모두의 통근 시간이 길어지고 말았습니다.

이것은 도시 전설이나 행정의 실패담이 아닙니다. 1968년 독일의 수학자 디트리히 브라스에 의해 수학적으로 증명된, 네트워크 이론의 유명한 현상 **‘브라스의 역설(Braess’s Paradox)’**입니다.

역설의 모델: 4,000명의 통근자

왜 “길이 늘어났는데도 모두가 느려지는” 현상이 일어나는 것인지, 간단한 수학 모델로 확인해 봅시다.

출발 지점(자택 지역)에서 도착 지점(오피스 타운)으로 향하는 4,000명의 운전자가 있습니다. 처음에는 다음과 같은 2개의 경로(위쪽 경로・아래쪽 경로)밖에 없었습니다.

위쪽 경로: 좁은 길 $A$를 지나고, 그 다음 넓은 고속도로 $B$를 통과한다.
아래쪽 경로: 넓은 고속도로 $C$를 지나고, 그 다음 좁은 길 $D$를 통과한다.

‘좁은 길’은 차가 늘어나면 막히기 때문에, 소요 시간은 ‘달리고 있는 차의 수 $\div 100$‘분이 걸립니다. ‘넓은 고속도로’는 차가 아무리 많이 와도 막히지 않으며, 항상 ‘45분’이 걸립니다.

[도로 건설 전]의 소요 시간

운전자들은 똑똑하기 때문에, 조금이라도 더 빠른 경로를 선택하려고 합니다. 결과적으로 4,000명은 위쪽 경로(2,000명)와 아래쪽 경로(2,000명)로 균등하게 나뉩니다.

위쪽 경로의 소요 시간: $\frac{2000}{100}$ 분(좁은 길) + $45$ 분(고속도로) = $65$분
아래쪽 경로의 소요 시간: $45$ 분(고속도로) + $\frac{2000}{100}$ 분(좁은 길) = $65$분

어느 경로를 선택하든, 소요 시간은 모두 ‘65분’으로 안정됩니다.

지름길 도로의 함정

여기서 시장이 “경유지 1에서 경유지 2로, 소요 시간 0분(순식간)에 이동할 수 있는 꿈의 초고속 우회 도로(바이패스)“를 건설했다고 가정해 봅시다.

운전자들은 새로운 경로의 선택지를 얻었습니다. 출발 지점에 선 운전자는 이렇게 생각합니다. “고속도로 C(45분)를 이용하는 것보다, 좁은 길 A를 이용하는 편이 낫다. 최악의 경우 4,000명 전원이 A를 선택한다고 해도 40분(4000/100)이면 충분하기 때문이다.”

따라서 4,000명 전원이 ‘좁은 길 A’로 향합니다. 경유지 1에 도착한 그들은 다시 생각합니다. “고속도로 B(45분)를 이용하는 것보다, 새 우회 도로(0분)를 통과하여 좁은 길 D를 이용하는 편이 낫다. 최악의 경우 전원이 D를 통과하더라도 40분이기 때문이다.”

따라서 4,000명 전원이 ‘새 우회 도로’를 통과하여 ‘좁은 길 D’로 향합니다.

[도로 건설 후]의 소요 시간

모두가 ‘자신에게 가장 빠른(합리적인) 선택’을 한 결과, 전원이 같은 경로(A → 새 우회 도로 → D)를 통과하게 되었습니다.

그 소요 시간을 계산해 봅시다.

좁은 길 $A$: $\frac{4000}{100} = 40$분
새 우회 도로: $0$분
좁은 길 $D$: $\frac{4000}{100} = 40$분
합계: $80$분

놀랍게도, 편리한 새로운 지름길이 생겼음에도 불구하고 모두의 통근 시간이 ‘65분’에서 ‘80분’으로 악화되고 말았습니다.

“누구 한 명이라도 뒷길(이전 경로)을 이용하면 되지 않느냐"고 생각할 수도 있지만, 만약 한 명이 뒷길인 고속도로 경로(45분+40분=85분)를 선택하면 지금의 80분보다 더욱 늦어지기 때문에 아무도 경로를 바꾸려 하지 않습니다. 이를 게임 이론에서는 **‘내시 균형’**에 도달했다고 말합니다. 모두가 자신에게 최적인 행동을 취한 결과, 전체적으로는 최악의 결과에 빠져버린 것입니다.

현실 세계에서의 실제 사례

브라스의 역설은 단순한 탁상공론이 아니라, 현실의 도시 교통이나 네트워크 시스템에서 여러 번 관찰되고 있습니다.

1969년 독일 슈투트가르트: 교통 체증을 해소하기 위해 새로운 도로를 건설했지만 체증이 악화되었습니다. 결국 그 새로운 도로를 폐쇄하자, 교통 흐름이 개선되었습니다.
1990년 뉴욕: 지구의 날 행사로 체증의 메카인 ‘42번가’를 완전히 폐쇄하자, 교통 전문가의 예상과 달리 맨해튼 전체의 교통 체증이 극적으로 해소되었습니다.
통신 네트워크: 인터넷의 라우팅이나 전력망에서도 같은 현상이 일어날 수 있습니다. 새로운 케이블이나 회선을 추가하는 순간, 데이터 패킷이 ‘최적이라고 생각되는 최단 경로’에 집중되어 네트워크 전체가 다운되는 경우가 있습니다.

브라스의 역설은 ‘개인의 합리적인 선택(이기주의)의 집합’이 반드시 ‘전체의 최적 결과’를 가져오는 것은 아니다라는 복잡계 사회의 딜레마를 훌륭하게 표현하고 있습니다. 때로는 ‘선택지(자유)를 빼앗는 것’이 모두의 이익이 되는 경우도 있는 것입니다.

뉴컴의 역설: 미래를 내다보는 초인, 당신은 이길 수 있는가?

Thu, 10 Sep 2026 08:00:00 +0900

1. 궁극의 선택 게임

당신의 눈앞에, 스스로를 “오메가"라고 칭하는 초지능을 가진 외계인이 나타났습니다. 오메가는 인간의 행동을 분석하는 달인으로, **“대상자가 다음에 어떤 선택을 할지, 거의 100%의 정확도로 미래를 예측할 수 있다”**는 무서운 능력을 가지고 있습니다. 과거의 실험에서도 오메가의 예측은 단 한 번도 빗나간 적이 없습니다.

오메가는 당신 앞에 두 개의 상자를 놓았습니다.

상자 A: 투명한 상자. 안에는 확실히 **“10만엔”**이 들어 있습니다.
상자 B: 속이 보이지 않는 상자. 안에는 **“1억엔”**이 들어 있거나, 아니면 “텅 비어(0엔)” 있습니다.

오메가는 당신에게 다음 두 가지 행동 중 하나를 선택하라고 말합니다.

선택 1 “두 상자를 모두 취한다”: 상자 A의 10만엔과 상자 B의 내용물을 모두 받습니다.
선택 2 “상자 B만 취한다”: 상자 B의 내용물만 받습니다. 상자 A의 10만엔은 포기해야 합니다.

이것만 들으면, 누구나 “두 상자를 모두 취한다"고 결정할 것입니다. 하지만 오메가는 무서운 “규칙"을 추가했습니다.

【오메가의 규칙】

“나는 어제, 네가 오늘 『어느 쪽을 선택할지』를 이미 예측해서, 상자 B의 내용물을 세팅해 두었다. 만약 네가 욕심을 부려 『두 상자를 모두 취한다』고 예측했다면, 나는 상자 B를 텅 비워 두었다. 만약 네가 욕심을 부리지 않고 『상자 B만 취한다』고 예측했다면, 나는 상자 B에 1억엔을 넣어 두었다.”

자, 당신은 지금부터 선택을 해야 합니다. 당신은 “두 상자를 모두 취해야” 할까요? 아니면 “상자 B만 취해야” 할까요?

2. 격돌하는 두 가지 “완벽한 논리”

이 문제는 1969년 물리학자 윌리엄 뉴컴에 의해 고안되었고, 철학자 로버트 노직에 의해 발표되었습니다. 발표되자마자 전 세계의 천재적인 수학자와 철학자들의 의견이 “정확히 반"으로 갈리며 큰 논쟁을 불러일으켰습니다.

왜냐하면, 어느 선택지에도 “절대 반박할 수 없는, 완벽한 논리"가 존재하기 때문입니다.

논리 1: “상자 B만 취한다” 파의 주장 (기댓값 최대화)

“오메가의 예측 정확도는 거의 100%잖아? 그렇다면 과거의 데이터대로 오메가를 믿어야 해. 만약 자신이 『모두 취한다』를 선택하면, 오메가는 그것을 꿰뚫어 보고 있어서 결과는 10만엔뿐이야. 만약 자신이 『상자 B만 취한다』를 선택하면, 오메가는 그것을 꿰뚫어 보고 있어서 결과는 1억엔이야. 10만엔과 1억엔, 어느 쪽을 원하는지는 바보라도 알지. 그러니까 절대적으로 『상자 B만 취해야』 해!”

이 사고방식은 과거의 통계 데이터나 기댓값을 순순히 믿는 “기대효용이론"에 바탕을 두고 있습니다.

논리 2: “두 상자를 모두 취한다” 파의 주장 (우월 전략)

“잠깐만. 오메가가 예측해서 상자 B에 내용물을 넣은 것은 **『어제』**의 일이잖아? 그렇다는 것은 지금 시점에서 상자 B의 내용물은 『1억엔이 들어 있다』거나 『텅 비어 있다』 둘 중 하나로 확정되어 있고, 이제 절대 변하지 않을 거야.

패턴 1: 만약 상자 B에 이미 1억엔이 들어 있다면, 『모두 취한다』를 선택하면 1억 10만엔, 『B만』이라면 1억엔이야. 패턴 2: 만약 상자 B가 이미 텅 비어 있다면, 『모두 취한다』를 선택하면 10만엔, 『B만』이라면 0엔이야.

어느 패턴이든, 『모두 취한다』를 선택하는 편이 무조건 10만엔 더 받잖아! 이제 와서 자신이 어느 쪽을 선택하든, 어제의 오메가의 행동이 타임머신을 타고 바뀔 리가 없어. 그러니까 절대적으로 『두 상자를 모두 취해야』 해!”

이 사고방식은 게임 이론에서 “상대방이 어떤 행동을 취하든, 자신에게 유리한 선택지를 고른다"는 “우월 전략 (Dominant Strategy)“에 바탕을 두고 있습니다.

3. 당신은 “자유의지"를 믿는가?

“상자 B만 취한다 파"와 “모두 취한다 파”. 양쪽의 주장을 듣고, 당신은 어느 쪽이 옳다고 생각했습니까?

사실 이 역설에는 현재에 이르기까지 “수학적으로 완벽한 유일한 정답"은 존재하지 않습니다. 왜냐하면 이 문제의 밑바탕에는 인류 최대의 철학적 물음인 **“결정론 vs 자유의지”**가 숨겨져 있기 때문입니다.

“상자 B만 취한다"고 답한 사람 (결정론자)

이 선택을 한 사람은 무의식중에 **“결정론 (이 세상의 미래는 모두 처음부터 정해져 있다)”**을 받아들이고 있습니다. 오메가가 100% 미래를 예측할 수 있다는 것은, 당신의 지금 결단이 “당신의 자유로운 의지"에 의해 선택된 것이 아니라, “우주의 물리 법칙이나 뇌의 뉴런의 움직임에 의해, 어제부터 이미 그렇게 선택하도록 운명 지어져 있었다"는 것입니다. 미래를 바꿀 수 없는 이상, 오메가의 예측대로 “상자 B만 취할 운명"에 편승하는 것이 가장 합리적이라는 사고방식입니다.

“두 상자를 모두 취한다"고 답한 사람 (자유의지론자)

이 선택을 한 사람은 무의식중에 **“자유의지 (미래는 자신의 선택으로 개척할 수 있다)”**를 믿고 있습니다. “어제의 오메가의 예측이 어떻든, 지금 자신의 의지로 선택을 바꿀 수 있다"고 믿기 때문에, “이미 확정된 상자의 내용물과는 무관하게, 지금 이 순간에 10만엔을 더 얻는 행동을 취하는” 것입니다. 설령 결과적으로 오메가에게 예측당해 상자가 텅 비어 있었다고 해도, “논리적으로 올바른 행동을 취한 결과니까 어쩔 수 없다"고 납득하는 논리의 소유자입니다.

4. 시간 여행과 인과의 붕괴

뉴컴의 역설을 더욱 복잡하게 만드는 것이 “인과율 (원인이 있고 결과가 있다)“의 역전입니다.

우리가 살아가는 상식적인 세계에서는, “오늘 나의 선택 (원인)“이 “내일의 결과"를 만듭니다.

하지만 오메가의 게임에서는, “오늘 나의 선택 (원인)“이 “어제의 오메가의 행동 (결과)“을 결정짓는 것처럼 보입니다. 미래의 행동이 과거의 사실을 결정해 버리는 “역방향의 인과율 (Backward Causality)“이 발생하고 있는 것입니다.

만약 오메가와 같은 “완벽한 예측자"가 우주에 존재한다면, 우리가 믿고 있는 “시간은 과거에서 미래로 흐른다"는 상식조차 붕괴해 버립니다.

5. 요약: 사고 실험이 파헤치는 인간의 “합리성”

당신은 어느 상자를 열겠습니까?

이 역설이 제시된 지 반세기가 넘었지만, 철학이나 경제학의 설문조사에서는 놀랍게도 “모두 취한다 파"와 “B만 취한다 파"가 반반 정도로 나뉩니다. 그리고 재미있게도, 양 진영 모두 “상대방의 논리는 완전히 파탄 난 바보다"라고 진심으로 믿고 있습니다.

“합리적인 판단이란 무엇인가?” 경제학이나 수학이 아무리 발전해도, 결국은 “인간이 이 세계를 어떻게 파악하고 있는가"라는 철학에 다다르게 됩니다. 뉴컴의 역설은 논리의 한계를 들이미는, 가장 심술궂고도 아름다운 사고 실험인 것입니다.

죄수의 딜레마: 왜 우리는 "모두가 손해 보는" 선택을 하고 마는가?

Thu, 10 Sep 2026 03:00:00 +0900

1. 궁극의 선택: 묵비권을 행사할 것인가, 배신할 것인가?

당신은 어떤 범죄의 용의자로 공범인 친구와 함께 경찰에 붙잡히고 말았습니다. 두 사람은 서로 다른 취조실에 들어가게 되었고, 서로 연락을 취하는 것은 일절 불가능합니다.

경찰은 증거를 완전히 확보하지 못했기 때문에, 검사는 당신과 친구에게 각각 다음과 같은 “사법 거래"를 제안했습니다.

둘 다 “묵비권 행사(협력)“를 한 경우: 증거 불충분으로, 두 사람 모두 징역 1년으로 끝난다.
당신이 “자백(배신)“하고, 친구가 “묵비권 행사"를 한 경우: 수사에 협조한 당신은 **무죄(즉시 석방)**가 되지만, 친구는 모든 죄를 뒤집어쓰고 징역 10년이 된다. (반대의 경우도 마찬가지)
둘 다 “자백(배신)“을 한 경우: 두 사람 모두 죄를 인정했기 때문에, 형이 조금 감경되어 두 사람 모두 징역 5년이 된다.

자, 당신이라면 어떻게 하시겠습니까? “묵비권(상대방과 협력)“을 행사하시겠습니까? 아니면 “자백(상대방을 배신)“하시겠습니까?

2. 이득표(페이오프 매트릭스)를 통한 분석

이 상황을 게임 이론에서 사용되는 “이득표"로 정리해 봅시다. 칸 안의 숫자는 (당신의 징역 연수, 친구의 징역 연수)를 나타냅니다. 마이너스는 손실(징역 연수)을 의미합니다.

당신 \ 친구	묵비권 행사(협조)	자백하기(배신)
묵비권 행사(협조)	(-1, -1)	(-10, 0)
자백하기(배신)	(0, -10)	(-5, -5)

객관적으로 보면, 두 사람이 취해야 할 최적의 행동은 명확합니다. 둘 다 “묵비권"을 행사하면, 전체 형기는 단 2년(-1과 -1)으로 끝납니다. 이것이 전체의 이익을 극대화하는 “파레토 최적” 상태입니다.

하지만 당신이 “자신의 이익만을 극대화하려는 합리적인 인간"이라면, 전혀 다른 결론이 도출됩니다.

3. 왜 “배신"이 합리적인 선택이 되는가?

당신이 다른 방에 있는 “친구"의 행동을 예측하여 자신의 행동을 결정하는 사고 과정을 따라가 봅시다.

케이스 1: 친구가 “묵비권"을 행사할 것이라고 예측한 경우

나도 “묵비권"을 행사하면, 징역 1년.
내가 “자백"하면, 무죄(즉시 석방). $\rightarrow$ 무죄가 더 좋으므로, **“자백(배신)”**이 최적.

케이스 2: 친구가 “자백"할 것이라고 예측한 경우

나도 “묵비권"을 행사하면, 징역 10년.
내가 “자백"하면, 징역 5년. $\rightarrow$ 징역 5년이 더 나으므로, 역시 **“자백(배신)”**이 최적.

눈치채셨나요? 상대방이 어떤 행동을 취하든 간에, 당신에게는 “자백(배신)“하는 것이 항상 더 유리합니다. 이것을 게임 이론에서는 **“우월 전략(Dominant Strategy)”**이라고 부릅니다.

친구도 완전히 같은 상황에 놓여 있고 완전히 똑같이 합리적으로 생각하기 때문에, 친구에게도 “자백"이 우월 전략이 됩니다.

결과적으로, 합리적으로 생각한 두 사람은 반드시 서로 “자백(배신)“을 선택합니다. 그 결과 도달하게 되는 것은 **둘 다 징역 5년(-5, -5)**이라는, 전체적으로 보면 최악에 가까운 결말입니다. 둘이서 협력(묵비권)했다면 징역 1년으로 끝났을 텐데, 개인의 합리성을 추구한 결과 서로 손해를 보고 마는 것입니다.

graph TD Start["선택의 시작"] --> Logic_You["당신의 합리적 사고"] Start --> Logic_Friend["친구의 합리적 사고"] Logic_You -->|상대가 묵비권을 행사하면 자백이 이득
상대가 자백해도 자백이 이득| Betray_You["당신은 자백(배신)을 선택"] Logic_Friend -->|상대가 묵비권을 행사하면 자백이 이득
상대가 자백해도 자백이 이득| Betray_Friend["친구는 자백(배신)을 선택"] Betray_You --> Result["결과: 양측 자백 (-5, -5)"] Betray_Friend --> Result Ideal["이상: 양측 묵비권 (-1, -1)"] -.->|개인의 합리성이 방해되어
도달할 수 없음| Result style Result fill:#ff9999,stroke:#333,stroke-width:2px style Ideal fill:#99ff99,stroke:#333,stroke-width:2px

이처럼 “서로 상대의 행동을 예측한 결과, 서로 전략을 바꿀 동기가 없는(더 이상 어쩔 수 없는) 상태"를 게임 이론의 대가 존 내시의 이름을 따서 **“내시 균형(Nash Equilibrium)”**이라고 부릅니다.

죄수의 딜레마에서 가장 무서운 점은, “파레토 최적(전체에게 가장 좋은 결과)“과 “내시 균형(개인의 합리성이 도달하는 곳)“이 일치하지 않는다는 점에 있습니다.

4. 일상 사회에 숨어 있는 “죄수의 딜레마”

죄수의 딜레마는 단순한 퀴즈가 아닙니다. 우리 사회에서 일어나고 있는 많은 문제들이 이 수학 모델로 설명됩니다.

1. 가격 경쟁(할인 경쟁)

두 경쟁 기업이 비슷한 상품을 1000원에 팔고 있습니다. 양사가 1000원을 유지(협조)하면 양사 모두 높은 이익을 얻을 수 있습니다. 하지만, “상대보다 조금만 싸게 해서(배신), 손님을 독점하자"라는 유혹에 넘어가 양사가 할인 경쟁을 시작합니다. 결과적으로 상품은 500원이 되고 양사 모두 이익을 내지 못하고 고통받는(양측 배신) 상황이 됩니다.

2. 환경 문제와 온실가스

전 세계 국가들이 “CO2 배출을 줄이자(협조)“라고 약속합니다. 이것이 지구 전체를 위한 최적의 해답입니다. 하지만 자국만 “배출 제한을 무시하고 공장을 가동(배신)“함으로써 자국의 경제만 급성장시킬 수 있습니다. 반대로, 타국이 배신했는데 자국만 규칙을 지키면 자국만 경제적으로 큰 손해를 봅니다. 결과적으로 어느 나라도 남들이 먼저 빠져나갈까 두려워 배신을 선택하고, 지구 환경은 파괴되어 갑니다.

3. 스포츠의 도핑 문제

선수 전원이 도핑을 하지 않는(협조) 것이 이상적입니다. 하지만 “상대가 도핑을 하고 있을지도 모른다"는 의심이나 “나만 도핑하면 이길 수 있다"는 유혹 때문에 도핑(배신)을 선택하고 맙니다. 결과적으로 전원이 건강을 해쳐가며 약물에 찌든 채 싸우는 최악의 상황에 빠집니다.

5. 해결책은 있는가? “팃포탯(Tit for Tat) 전략”

일회성 거래에서는 “배신"이 항상 합리적인 선택이 되어버립니다. 하지만 이것이 “같은 상대와 여러 번 반복되는 게임(반복되는 죄수의 딜레마)“이 되면 상황은 극적으로 바뀝니다.

1980년대, 정치학자 로버트 액설로드는 다양한 전략이 프로그래밍된 컴퓨터끼리 대전하는 토너먼트를 열었습니다. “항상 배신한다”, “무작위로 배신한다”, “상대를 용서한다” 등 전 세계 학자들로부터 모인 복잡한 전략들 중에서 압도적인 성적으로 우승한 것은 가장 단순한 **“팃포탯 전략(Tit for Tat, 눈에는 눈 이에는 이)”**이었습니다.

팃포탯 전략의 규칙은 단지 이것뿐입니다.

처음에는 반드시 “협조"한다.
다음부터는, 이전 턴에 “상대가 취한 행동"을 그대로 따라 한다.
- 상대가 이전에 협조해 주었다면, 이번에는 협조한다.
- 상대가 이전에 배신했다면, 이번에는 배신으로 보복한다.

이 전략이 강력한 이유는 “먼저 절대 배신하지 않는다(선량함)”, “배신당하면 즉각 벌을 준다(엄격함)”, “상대가 태도를 고치면 바로 용서한다(관대함)”, “구조가 단순하여 상대에게 전달되기 쉽다(명료함)“라는 4가지 특징을 갖추고 있기 때문입니다.

인간관계나 국제사회에서도 장기적인 관계가 전제되어 있다면, “팃포탯 전략"처럼 **“기본적으로는 협력하되, 배신에는 페널티를 준다”**는 규칙을 공유함으로써 죄수의 딜레마를 극복하고 협력 관계를 구축할 수 있습니다.

6. 결론: 수학이 가르쳐 주는 “신뢰"의 가치

죄수의 딜레마는 “인간의 이기적인 합리성"이 때로는 사회 전체를 불행의 구렁텅이로 빠뜨린다는 것을 수학적으로 증명했습니다. “나 혼자만 이득을 보고 싶다” 혹은 “남에게 당하고 싶지 않다"는 개인의 합리성은 결국 자기 자신의 목을 조르는 결과(내시 균형)를 초래합니다.

하지만 동시에 “관계가 장기적으로 이어진다"는 조건만 있다면, “서로 신뢰하고 협력하는 것"이 결과적으로 자기 자신의 이익도 극대화하는 가장 합리적인 전략이라는 것 또한 게임 이론은 가르쳐 주고 있습니다.

당신이 다음에 “나 혼자만 살짝 꼼수를 부려볼까” 하고 망설일 때, 이 죄수의 딜레마의 이득표를 떠올려 보십시오. 눈앞의 이익을 좇는 “합리적인 배신"은 장기적으로는 가장 비합리적인 선택일지도 모르니까요.