집합론 on kenji.blog

리샤르의 역설: 무한한 소수와 "대각선 논법"이 일으키는 모순

Thu, 10 Sep 2026 12:00:00 +0900

1. 말로 정의할 수 있는 숫자의 목록

프랑스의 수학자 쥘 리샤르(Jules Richard)가 1905년에 발표한 “리샤르의 역설(Richard’s paradox)“은 앞서 소개한 “베리의 역설"과 친척 같은 존재입니다. 하지만 이쪽은 좀 더 수학적이고, 무한의 저편을 들여다보는 듯한 깊은 모순을 포함하고 있습니다.

먼저, **“한국어 문장으로 완벽하게 정의할 수 있는, 0에서 1 사이의 실수(소수)”**를 모두 모아온다고 상상해 보세요.

예를 들어, 다음과 같은 숫자입니다.

“영 포인트 오” $\rightarrow$ $0.5$
“삼분의 일” $\rightarrow$ $0.333333...$
“원주율의 소수점 첫째 자리부터 차례대로 나열한 수” $\rightarrow$ $0.14159265...$

한국어로 표현할 수 있는 문장의 조합은 사전에 실린 글자를 나열하기만 하면 되기 때문에 “순서"를 매길 수 있습니다. (예를 들어, 글자 수가 적은 순서대로 나열하고, 글자 수가 같다면 가나다순으로 나열하는 식입니다.)

이렇게 해서 “한국어로 정의할 수 있는 모든 실수"에 1번째, 2번째, 3번째… 하고 **무한히 이어지는 번호(목록)**를 만들 수 있었습니다.

$$ \begin{align*} r_1 &= 0.\mathbf{3}333... \\ r_2 &= 0.5\mathbf{0}00... \\ r_3 &= 0.14\mathbf{1}5... \\ r_4 &= 0.777\mathbf{7}... \\ &\vdots \end{align*} $$

이 목록 안에는 “한국어로 정의할 수 있는 모든 실수"가 하나도 빠짐없이 완벽하게 망라되어 있을 것입니다.

2. 악마의 테크닉 “대각선 논법”

여기서 리샤르는 무서운 조작을 가합니다. 목록에 있는 모든 숫자를 교묘히 피해 가는 **“완전히 새로운 숫자 $X$”**를 인공적으로 만들어 내는 것입니다.

만드는 방법은 간단합니다.

목록의 1번째 숫자의 소수점 이하 첫째 자리를 봅니다 (위의 예라면 $3$). 거기에 $1$을 더한 수를 $X$의 첫째 자리로 만듭니다 ($3+1=4$).
목록의 2번째 숫자의 소수점 이하 둘째 자리를 봅니다 (위의 예라면 $0$). 거기에 $1$을 더한 수를 $X$의 둘째 자리로 만듭니다 ($0+1=1$).
목록의 3번째 숫자의 소수점 이하 셋째 자리를 봅니다 (위의 예라면 $1$). 거기에 $1$을 더한 수를 $X$의 셋째 자리로 만듭니다 ($1+1=2$).

※만약 원래 숫자가 $9$라면 $0$으로 되돌린다고 가정합니다.

이 방법으로 만들어진 새로운 숫자 $X$ (위의 예라면 $X = 0.4128...$)는 목록 안의 어떤 숫자와도 절대로 일치하지 않습니다. 왜냐하면, $n$번째 숫자와는 반드시 “소수점 이하 $n$번째” 숫자가 의도적으로 어긋나 있기 때문입니다. (이 기법은 천재 수학자 칸토어가 실수의 무한한 크기를 증명하기 위해 고안해 낸 **“대각선 논법”**이라고 불립니다.)

3. 리샤르의 역설의 완성

자, 여기서부터가 역설입니다.

우리는 방금 전, 새로운 숫자 $X$를 만들어 냈습니다. 그리고 이 $X$를 만들어 내기 위한 “규칙"은 지금, 제가 위에서 적은 한국어 문장에 의해 완벽하게 설명(정의)되었습니다.

즉, $X$는 **“한국어로 정의할 수 있는 실수”**인 것입니다.

하지만 처음의 전제를 떠올려 보세요. “한국어로 정의할 수 있는 실수"는 모두 처음 목록($r_1, r_2, r_3...$) 안에 망라되어 있어야 했습니다. 그런데도 $X$는 목록 안의 어떤 숫자와도 일치하지 않도록 만들어졌습니다.

$X$는 목록 안에 존재해야 한다 (한국어로 정의되었으므로).
$X$는 목록 안에 존재해서는 안 된다 (대각선 논법으로 목록 내의 모든 수와 다르게 만들어졌으므로).

완벽한 모순입니다! 이것이 리샤르의 역설입니다.

4. 왜 논리가 붕괴되었는가? (메타 언어의 함정)

이 역설이 생겨난 원인도, 베리의 역설과 마찬가지로 “언어의 계층"을 혼동해 버렸기 때문입니다.

수학을 엄밀하게 다루기 위해서는 “대상이 되는 숫자의 목록(대상 언어)“과 “그 목록의 성질에 대해 외부에서 언급하는 규칙(메타 언어)“을 명확하게 구별해야 합니다.

리샤르의 목록은 “계산 가능한 숫자의 정의"를 모아둔 것입니다. 하지만 새로운 수 $X$를 만들어 내기 위한 “목록의 $n$번째 숫자의 $n$번째 자리를 본다"는 규칙은 목록 자체를 외부에서 부감하지 않으면 실행할 수 없는 “메타 언어"적인 조작입니다.

리샤르의 역설은 “목록을 외부에서 조작하여 만든 메타 언어적인 숫자 $X$“를, 슬그머니 “내부의 목록” 안에 끼워 넣으려 했기 때문에 자기 모순을 일으켜 폭발해 버린 것입니다.

5. 괴델에게로 바통 터치

이 리샤르의 역설은 당시 수학계에 큰 충격을 주었습니다. “인간의 언어(또는 논리 체계)는 조심하지 않으면 금방 자기 모순을 일으키고 만다. 수학을 완벽하고 모순이 없는 것으로 만들려면 어떻게 해야 할까?”

1931년, 이 문제에 최종적인 결론을 낸 것이 갓 25살의 천재 수학자 쿠르트 괴델이었습니다. 괴델은 리샤르가 “언어의 모호함"을 사용해 일으킨 이 역설의 구조를, **“엄밀한 수학의 수식(괴델 수)”**을 사용하여 완벽하게 번역 및 재현해 보였습니다.

그 결과 도출된 것이, 그 유명한 **“괴델의 불완전성 정리”**입니다. “아무리 엄밀하게 수학의 규칙을 만들어도, 그 규칙 안에는 ‘증명도 반증도 할 수 없는 진리’가 반드시 발생해 버린다 (수학은 불완전하다)“는, 인류 지성의 한계를 증명하는 대발견이었습니다.

리샤르의 역설은 단순한 모순된 말장난에서 시작되어, 이윽고 수학이라는 학문 그 자체의 “절대성"을 깨부수기 위한 최강의 무기로 진화한 것입니다.

힐베르트의 무한 호텔: 만실인 호텔에 추가로 무한 명의 손님을 투숙시키는 방법

Thu, 10 Sep 2026 06:00:00 +0900

1. 궁극의 호텔에 오신 것을 환영합니다

독일의 위대한 수학자 다비트 힐베르트는 ‘무한’이라는 개념이 인간의 직관과 얼마나 동떨어져 있는지를 설명하기 위해 다음과 같은 흥미로운 사고 실험을 고안했습니다.

상상해 보세요. 우주 어딘가에 **“힐베르트의 무한 호텔”**이라는 호텔이 있습니다. 이 호텔에는 1호실, 2호실, 3호실……과 같이 번호가 매겨진 객실이 무한 개 존재합니다.

어느 날, 우주 전역에서 큰 행사가 열려 이 무한 호텔은 모든 방에 손님이 들어차 **“만실”**이 되었습니다. 그때 몹시 지친 한 명의 여행자가 찾아와 프런트에 “방을 하나 비워주실 수 있나요?“라고 물었습니다.

보통의 호텔이라면 “죄송합니다, 만실입니다"라고 거절할 수밖에 없습니다. 하지만 이곳은 무한 호텔입니다. 지배인은 “알겠습니다. 바로 방을 준비해 드리겠습니다"라며 미소 지었습니다. 만실인데 어떻게 새로운 손님을 투숙시킬 수 있을까요?

2. 케이스 1: 1명의 새로운 손님을 투숙시키는 방법

지배인은 구내방송으로 이미 투숙하고 있는 모든 손님에게 다음과 같이 안내했습니다.

“손님 여러분께 안내 말씀드립니다. 현재의 방 번호에 ‘플러스 1’을 한 번호의 방으로 이동해 주시기 바랍니다.”

그러면 어떻게 될까요?

1호실 손님은 2호실로 이동합니다.
2호실 손님은 3호실로 이동합니다.
3호실 손님은 4호실로 이동합니다.
$n$호실 손님은 $n+1$호실로 이동합니다.

graph LR subgraph "이동 전(만실)" R1["1호실
(손님A)"] R2["2호실
(손님B)"] R3["3호실
(손님C)"] R4["..."] end subgraph "이동 후" NewR1["1호실
(빈방!)"] NewR2["2호실
(손님A)"] NewR3["3호실
(손님B)"] NewR4["4호실
(손님C)"] end R1 -->|이동| NewR2 R2 -->|이동| NewR3 R3 -->|이동| NewR4 NewGuest["새로운 손님"] -->|체크인| NewR1 style NewR1 fill:#aaffaa,stroke:#333,stroke-width:2px style NewGuest fill:#ffaaaa,stroke:#333,stroke-width:2px

방은 무한히 있으므로 “가장 마지막 방의 손님이 쫓겨난다"는 일은 일어나지 않습니다. 모두가 옆 방으로 무사히 이사할 수 있습니다. 그리고 마침내 1호실이 빈방이 되었습니다. 새로운 여행자는 무사히 1호실에 머물 수 있게 된 것입니다.

무한의 세계에서는 $\infty + 1 = \infty$ 가 성립합니다. “전체(무한)” 중에서 “1개"를 빼내어도 전체의 크기는 변하지 않는 것입니다.

3. 케이스 2: 무한 명의 새로운 손님을 투숙시키는 방법

자, 다음 날. 호텔은 다시 만실 상태로 돌아갔습니다. 그런데 이번에는 무려 “무한 명의 승객"을 태운 무한 버스가 도착했습니다. 버스에서 내린 손님들은 “우리 모두가 묵을 방을 준비해 주시오!“라며 프런트로 몰려들었습니다.

어제와 똑같이 “플러스 1"의 이동을 부탁하다가는 영원히 시간이 걸리고 말 것입니다. 하지만 지배인은 당황하지 않습니다. 다시 구내방송을 켰습니다.

“손님 여러분께 안내 말씀드립니다. 현재의 방 번호를 ‘2배’ 한 번호의 방으로 이동해 주시기 바랍니다.”

그러면 어떻게 될까요?

1호실 손님은 2호실로 이동합니다.
2호실 손님은 4호실로 이동합니다.
3호실 손님은 6호실로 이동합니다.
$n$호실 손님은 $2n$호실로 이동합니다.

이 이동을 통해 이미 투숙하고 있던 무한 명의 손님은 **“모든 짝수 번호의 방”**에 쏙 들어가게 되었습니다. 그리고 기적적으로 “모든 홀수 번호의 방(1호실, 3호실, 5호실…)“이 완전히 빈방이 된 것입니다!

graph LR subgraph "현재 투숙객" G1["손님1"] -->|2배| R2["2호실"] G2["손님2"] -->|2배| R4["4호실"] G3["손님3"] -->|2배| R6["6호실"] end subgraph "버스의 새로운 손님(무한 명)" N1["새 손님1"] -->|홀수로| R1["1호실 (빔)"] N2["새 손님2"] -->|홀수로| R3["3호실 (빔)"] N3["새 손님3"] -->|홀수로| R5["5호실 (빔)"] end style R1 fill:#aaffaa,stroke:#333 style R3 fill:#aaffaa,stroke:#333 style R5 fill:#aaffaa,stroke:#333

홀수도 무한히 존재하므로, 지배인은 무한 버스의 승객을 맨 앞부터 차례대로 1호실, 3호실, 5호실…로 안내해 나가면 모두를 투숙시킬 수 있습니다.

무한의 세계에서는 $\infty + \infty = \infty$ 가 성립합니다. 무한에 무한을 더해도 역시 크기는 같은 “무한” 그대로인 것입니다.

4. 케이스 3: 무한 대의 무한 버스가 도착한다면?

그리고 또 다음 날. 또다시 호텔은 만실입니다. 그런데 놀랍게도 “무한 명의 승객을 태운 무한 버스가 무한 대” 연달아 도착했습니다.

버스 1호차에 무한 명, 버스 2호차에 무한 명, 버스 3호차에 무한 명…… 이것이 무한 대 이어집니다. 아무리 지배인이라도 패닉에 빠질 법하지만, 그는 수학의 천재였습니다. ‘소수’를 사용할 생각을 해낸 것입니다.

지배인은 다음과 같이 지시를 내렸습니다.

이미 호텔에 투숙하고 있는 손님의 이동 현재 방 번호를 $n$이라고 했을 때, “$2^n$ 호실"로 이동하게 합니다. (1호실 $\rightarrow$ 2호실, 2호실 $\rightarrow$ 4호실, 3호실 $\rightarrow$ 8호실…) 이로써 현재의 손님은 모두 수용되었습니다.
버스 1호차 손님(무한 명)의 안내 손님의 좌석 번호를 $n$이라고 했을 때, “$3^n$ 호실"로 안내합니다. (3호실, 9호실, 27호실…)
버스 2호차 손님(무한 명)의 안내 다음 소수인 5를 사용하여 “$5^n$ 호실"로 안내합니다. (5호실, 25호실, 125호실…)
버스 $k$호차 손님(무한 명)의 안내 $k+1$ 번째 소수 $P$를 사용하여 “$P^n$ 호실"로 안내합니다.

“소인수분해의 유일성(어떤 수든 소수의 곱셈 조합은 1가지뿐이다)“이라는 강력한 수학 정리에 의해, $2^n, 3^n, 5^n, 7^n \dots$ 의 방 번호가 다른 누군가와 중복되는 일은 절대 없습니다.

이렇게 지배인은 **“무한 $\times$ 무한”**이라는 터무니없는 인원의 손님을 1개의 무한 호텔에 훌륭하게 수용해 낸 것입니다!

5. 무한에는 “크기"의 차이가 있다(칸토어의 정리)

힐베르트의 무한 호텔이 가르쳐 주는 것은 “가산 무한(1, 2, 3… 하고 번호를 매겨 셀 수 있는 무한)“은 아무리 더하거나 곱해도 결국 같은 크기의 ‘가산 무한’의 틀 안에 수용되고 만다는 사실입니다.

하지만 수학자 게오르크 칸토어는 더욱 무서운 사실을 발견했습니다. “자연수"나 “분수"는 모두 이 무한 호텔에 묵게 할 수 있습니다. 하지만 “실수(무리수를 포함한 모든 소수)” 손님이 찾아올 경우, 이 무한 호텔을 사용하더라도 절대 모두를 투숙시킬 수 없습니다.

실수의 개수는 무한 호텔의 방 개수(가산 무한)보다 근본적으로 “더 큰(차원이 높은) 무한"임이 증명되어 있습니다. “무한"이라는 단어로 하나로 묶이기 쉽지만, 사실 무한 안에도 “작은 무한"과 “절대 도달할 수 없을 만큼 큰 무한"이라는 계층 구조(농도)가 존재하는 것입니다.

6. 요약: 인간의 직관을 파괴하는 “무한”

힐베르트의 무한 호텔은 우리의 일상생활에서 길러진 “유한의 상식"이 “무한의 세계"에서는 얼마나 통용되지 않는지를 선명하게 그려냅니다.

“전체는 부분보다 크다” “만실인 호텔에는 아무도 들어갈 수 없다” “무한에 무한을 더하면 더 커진다”

이러한 당연한 직관은 모두 보기 좋게 빗나갑니다. 무한의 세계는 역설(직관에 반하는 진리)의 보고입니다. 수학자들은 이 역설을 두려워하는 것이 아니라 논리의 힘으로 제압하고 분류하여 현대의 집합론이라는 아름다운 체계를 만들어 냈습니다.

다음에 “호텔이 만실입니다"라며 거절당했을 때는 꼭 “만약 이 호텔이 힐베르트의 무한 호텔이었다면 어땠을까” 하고 상상해 보시기 바랍니다.

바나흐-타르스키 역설: 1개의 공을 조각내면, 같은 크기의 공이 2개가 된다?

Thu, 10 Sep 2026 02:00:00 +0900

1. 마법 같은 정리: 1 = 1 + 1 ?

만약 눈앞에 1개의 순금 공(ball)이 있다고 가정해 봅시다. 이 공을 칼로 여러 조각으로 나눕니다. 그리고 그 조각들을 퍼즐처럼 다시 조합합니다. 조각을 늘리거나 구부리거나 새로운 금을 덧붙이는 일은 절대 하지 않습니다. 오직 이동시켜서 붙이기만 합니다.

그런데 완성된 퍼즐을 보면, “원래의 공과 완전히 같은 크기의 순금 공이 2개” 만들어져 있는 것입니다.

“말도 안 돼! 질량 보존의 법칙에 어긋나고, 연금술사의 망상일 뿐이야!“라고 생각할 것입니다. 현실의 물리 세계에서는 절대 있을 수 없는 일입니다. 하지만 순수 수학(기하학·집합론)의 세계에서는 이것이 논리적으로 100% 참인 정리로 증명되어 있습니다.

이것이 바로 1924년 스테판 바나흐(Stefan Banach)와 알프레트 타르스키(Alfred Tarski)라는 두 수학자에 의해 증명된 **“바나흐-타르스키 역설”**입니다.

2. 역설의 주장을 정확히 이해하기

바나흐와 타르스키가 증명한 정리를 수학적으로 정확한 언어로 표현하면 다음과 같습니다.

바나흐-타르스키 정리 3차원 공간 내에 있는 임의의 구체 $S$는 유한 개의 조각으로 분할할 수 있다. 그리고 그 조각들을 (회전과 평행 이동만으로) 재배치함으로써 원래의 구체 $S$와 완전히 같은 반지름을 가진 두 개의 구체를 만들어낼 수 있다.

더욱 놀라운 것은, 이 정리를 응용하면 다음과 같은 사실도 말할 수 있다는 점입니다.

1개의 완두콩을 유한 개의 조각으로 분할하고 이를 다시 조립함으로써, 태양과 완전히 똑같은 크기의 구체를 만들 수 있다. (별명: 완두콩과 태양의 역설)

왜 이런 마법 같은 일이 수학적으로 허용되는 것일까요? 그 비밀은 **“무한”**과 **“선택 공리”**라는 두 가지 키워드에 숨겨져 있습니다.

3. “무한"의 신비한 성질

이 역설을 이해하기 위한 첫걸음은 “무한 집합"의 기묘한 성질을 아는 것입니다.

우리가 평소 다루는 “유한"의 세계에서는 전체가 부분보다 반드시 큽니다. 예를 들어, 1부터 10까지의 숫자(10개) 중에서 짝수(5개)를 꺼내면, 숫자는 반으로 줄어듭니다.

하지만 “무한"의 세계에서는 이 상식이 통하지 않습니다. 모든 “자연수”(1, 2, 3, 4, …)와 모든 “짝수”(2, 4, 6, 8, …) 중 어느 쪽이 더 많을까요? 직관적으로는 짝수가 자연수의 절반밖에 되지 않으므로 자연수가 더 많을 것 같은 느낌이 듭니다. 하지만 다음과 같이 짝을 지어보세요.

1 $\rightarrow$ 2
2 $\rightarrow$ 4
3 $\rightarrow$ 6
$n \rightarrow 2n$

이처럼 모든 자연수에 대해 정확히 두 배가 되는 짝수를 반드시 하나씩 짝지을 수 있습니다(일대일 대응). 남는 수는 없습니다. 즉 수학적으로는, “자연수의 개수(무한)“와 “짝수의 개수(무한)“는 완전히 같은 크기인 것입니다!

전체(자연수)에서 절반(짝수)을 떼어냈는데도 크기는 원래대로 변함이 없습니다. 무한 집합에서는 “부분이 전체와 같아지는” 일이 일어날 수 있는 것입니다. 바나흐-타르스키 정리는 이 “무한의 마법"을 3차원 공간의 “점"의 집합에 적용한 궁극의 형태라고 할 수 있습니다.

4. 공간의 점은 “측정 불가능"하게 조각난다

현실의 물체(금이나 사과)를 칼로 자를 경우, 조각에는 반드시 “부피"가 존재합니다. 하지만 수학에서의 구체는 부피를 갖지 않는 **“무한한 점들의 모임”**입니다.

바나흐와 타르스키는 이 무한한 점들을 매우 특수하고 복잡한 방법으로 그룹화(분할)했습니다. 그 나누는 방식이 너무나도 복잡하고 흩어져 있어서 더 이상 “부피를 측정할 수 없는(비가측 집합)” 상태가 됩니다.

각 조각이 “부피를 갖지 않는(측정할 수 없는)” 모호한 점들의 모임이 되어버리면, “조각들을 합치면 원래 부피와 같아야 한다"라는 물리 법칙(측도의 가산 가법성)의 굴레에서 벗어날 수 있습니다.

그리고 그 모호한 점의 조각들을 회전시켜 잘 조합하면, “무한의 마법"에 의해 원래의 구체와 완전히 같은 점이 빽빽하게 찬 구체가 2개 완성되어 버리는 것입니다. 실제로는 원래의 구체를 단 5개의 조각으로 나누는 것만으로 이 “1개의 공에서 2개의 공을 만드는” 조작이 가능함이 증명되어 있습니다.

5. 모든 것의 원흉: “선택 공리"란 무엇인가?

그렇다면 왜 “부피를 잴 수 없을 정도로 복잡한 분할"이 수학적으로 가능한 것일까요? 그것은 현대 수학의 기초가 되는 **“선택 공리(Axiom of Choice)”**라는 규칙을 인정하고 있기 때문입니다.

선택 공리란 간단히 말해 다음과 같은 규칙입니다.

선택 공리의 이미지 수많은 상자 속에 각각 물건이 들어 있을 때, **“각 상자에서 물건을 하나씩 골라내어 새로운 세트(집합)를 만들 수 있다”**는 규칙.

상자의 개수가 유한 개라면 누구나 쉽게 할 수 있습니다. 하지만 상자의 개수가 “무한 개"일 경우, 인간이 “하나씩 고르는” 조작을 무한 번 끝마칠 수는 없습니다. 그럼에도 “골라서 만든 세트가 존재한다고 보아도 좋다"라고 인정하는 것이 선택 공리입니다.

이 공리는 현대 수학을 구축하는 데 있어 매우 편리하고 필수 불가결한 것이었습니다. 대부분의 수학자들은 “뭐, 당연한 거네"라며 이 규칙을 받아들였습니다.

하지만 이 선택 공리를 인정하면, 앞서 말한 “부피를 잴 수 없을 정도로 흩어진 모호한 점들의 집합(비가측 집합)“의 존재를 인정하게 되어버립니다. 그리고 그 결과로서 “1개의 공이 2개가 된다"는 바나흐-타르스키 정리가 논리적 필연으로 도출되고 마는 것입니다.

6. 요약: 수학이 그려내는 “직관을 뛰어넘는 세계”

바나흐-타르스키의 역설은 “논리에 모순이 있다"는 의미의 역설(패러독스)이 아닙니다. 논리는 100% 옳지만, 도출된 결론이 인간의 직관이나 물리 법칙과 격렬하게 모순된다는 의미에서의 역설입니다.

이 정리가 발표되었을 때, 일부 수학자들은 “이렇게 비상식적인 결론이 나온다면, 선택 공리는 틀림없이 잘못된 것이다!“라고 주장했습니다. 하지만 현재는 많은 수학자들이 선택 공리를 받아들이고, 바나흐-타르스키의 정리 또한 “3차원 공간과 무한 집합이 가지는, 기묘하지만 아름다운 성질"로서 받아들이고 있습니다.

우리가 사는 물리 세계는 원자라는 “크기가 있는 알갱이(유한)“로 이루어져 있기 때문에, 완두콩을 태양 크기로 만들 수는 없습니다. 하지만 인간의 두뇌가 만들어낸 “수학"이라는 캔버스 위에서는 점의 크기는 0이며, 무한의 조작이 허용됩니다.

바나흐-타르스키의 역설은, “무한"이라는 개념이 인간의 소박한 직관을 얼마나 가볍게 뛰어넘는가를 가르쳐 주는, 현대 수학의 최고 걸작 중 하나라고 할 수 있을 것입니다.