논리학 on kenji.blog

단어가 자기 자신을 묘사할 때: 그렐링-넬슨의 역설

Thu, 10 Sep 2026 21:00:00 +0900

언어는 세상을 묘사하기 위한 도구이지만, 언어 그 자체를 묘사하려고 할 때 논리는 예상치 못한 함정에 빠지기도 합니다.

1908년 쿠르트 그렐링과 레너드 넬슨에 의해 고안된 **‘그렐링-넬슨의 역설(Grelling-Nelson Paradox)’**은 바로 그 ‘단어가 단어를 정의한다’는 것의 한계를 들이미는 의미론의 유명한 역설입니다.

단어를 두 가지로 분류하기

그렐링과 넬슨은 모든 형용사(단어)를 다음의 두 그룹으로 분류할 수 있다고 생각했습니다.

자기 서술적(Autological): 그 단어 자체가 그 단어가 의미하는 성질을 가지고 있는 것.
비자기 서술적(Heterological): 그 단어 자체가 그 단어가 의미하는 성질을 가지고 있지 않은 것.

예를 살펴봅시다

자기 서술적인 단어의 예:

‘짧은(short)’: 이 단어 자체도 짧습니다.
‘영어의(English)’: 이 단어 자체도 영어입니다.
‘명사(noun)’: 이 단어는 명사입니다.
‘5음절의(pentasyllabic)’: 영어로 ‘pen-ta-syl-lab-ic’은 5개의 음절을 가집니다.

비자기 서술적인 단어의 예:

‘긴(long)’: 이 단어 자체는 짧으며, 길지 않습니다.
‘독일어의(German)’: 이 단어는 한국어(또는 영어)이며, 독일어가 아닙니다.
‘눈에 보이지 않는(invisible)’: 이 단어는 지금 화면이나 종이 위에 확실하게 보이고 있습니다.

여기까지는 단순한 말장난처럼 보입니다. 모든 단어는 자신의 의미를 체현하고 있거나, 그렇지 않거나 둘 중 하나로 반드시 분류될 수 있을 것입니다.

치명적인 질문: 역설의 발생

그럼, 여기서부터가 역설의 시작입니다. 다음의 한 단어에 대해 생각해 봅시다.

‘비자기 서술적(Heterological)‘이라는 단어 자체는 자기 서술적일까요? 아니면 비자기 서술적일까요?

이 질문에 대해 우리는 어떤 답을 선택하더라도 모순에 직면하게 됩니다.

케이스 1: ‘비자기 서술적’이 『자기 서술적』이라고 가정한다

만약 ‘비자기 서술적(Heterological)‘이라는 단어가 ‘자기 서술적’이라고 한다면, 정의에 의해 ‘그 단어 자체가 의미하는 성질을 가지고 있다’는 것이 됩니다. 하지만 이 단어의 의미는 ‘비자기 서술적’이라는 것입니다. 즉, ‘비자기 서술적’이라는 성질을 가지고 있다는 것은 그것이 ‘비자기 서술적’이라는 의미가 됩니다. 자기 서술적이라고 가정했는데, 결과는 비자기 서술적이 되어버렸습니다. (모순)

케이스 2: ‘비자기 서술적’이 『비자기 서술적』이라고 가정한다

만약 ‘비자기 서술적(Heterological)‘이라는 단어가 ‘비자기 서술적’이라고 한다면, 정의에 의해 ‘그 단어 자체가 의미하는 성질을 가지고 있지 않다’는 것이 됩니다. 이 단어의 의미는 ‘비자기 서술적’이므로, 그 성질을 가지고 있지 않다는 것은 ‘자기 서술적’이라는 의미가 됩니다. 비자기 서술적이라고 가정했는데, 결과는 자기 서술적이 되어버렸습니다. (모순)

어느 쪽으로 가든 논리가 붕괴하고 마는 것입니다.

graph TD A["단어 『비자기 서술적』(Heterological)"] --> B{"어느 쪽에 분류되는가?"} B -->|자기 서술적이다| C["정의: 자신의 의미하는 성질을 가짐"] C --> D["자신의 의미는 『비자기 서술적』"] D --> E["결과: 비자기 서술적이다!"] E -->|모순| B B -->|비자기 서술적이다| F["정의: 자신의 의미하는 성질을 가지지 않음"] F --> G["자신의 의미는 『비자기 서술적』"] G --> H["결과: 자기 서술적이다!"] H -->|모순| B style A fill:#4CAF50,stroke:#333,stroke-width:2px,color:#fff style B fill:#FF9800,stroke:#333,stroke-width:2px,color:#fff style E fill:#F44336,stroke:#333,stroke-width:2px,color:#fff style H fill:#F44336,stroke:#333,stroke-width:2px,color:#fff

수학·논리학과의 연결: 러셀의 역설의 친척

이 역설은 ‘사라진 1달러의 수수께끼’와 같은 단순한 계산 실수나 착각이 아닙니다. 수학의 기초를 뒤흔든 러셀의 역설(‘자기 자신을 포함하지 않는 모든 집합의 집합은 자기 자신을 포함하는가?’)과 본질적으로 같은 구조를 가지고 있습니다.

그렐링-넬슨의 역설은 러셀의 역설의 의미론(단어의 의미) 버전이라고도 할 수 있습니다.

집합론에서의 러셀의 역설:

$$ R = \\{ x \mid x \notin x \\} $$

라는 집합을 정의했을 때, $R \in R$인지 $R \notin R$인지를 물으면 모순이 발생한다.

의미론에서의 그렐링-넬슨의 역설: $Het(x)$를 ‘단어 $x$가 성질 $x$를 가지지 않는다(비자기 서술적이다)‘라고 정의했을 때,

$$ Het(\text{"Het"}) \iff \neg Het(\text{"Het"}) $$

라는 논리적인 모순에 빠진다.

왜 이 역설이 중요한가?

단어가 단어 자신을 언급할(자기 참조) 때, 거기에는 무한 루프와 같은 에러가 발생할 위험이 항상 잠재되어 있습니다.

이는 철학이나 언어학만의 문제가 아닙니다. 컴퓨터 과학이나 인공지능 분야에서도 프로그램이 자기 자신의 코드를 평가하고 수정하려고 할 때나, 자연어 처리 모델이 의미의 모순을 해석할 때 비슷한 논리의 벽에 직면하게 됩니다.

그렐링-넬슨의 역설은 ‘언어’라는 시스템이 본질적으로 내포하고 있는 버그(한계)를 훌륭하게 시각화한 사고 실험인 것입니다.

모래알을 하나 제거하면, 모래더미는 언제 모래더미가 아니게 되는가?: 모래더미의 역설

Thu, 10 Sep 2026 21:00:00 +0900

눈앞에 1만 알의 모래로 만들어진 훌륭한 모래더미가 있다고 합시다. 누가 봐도 이것은 「모래더미」입니다. 여기서 모래알을 하나만 제거합니다. 9,999알. 아직 모래더미이죠? 한 알 더 제거합니다. 9,998알. 이것도 아직 모래더미입니다.

이 작업을 반복해 봅시다. 한 알 제거한 정도로 「모래더미」가 「모래더미가 아닌 것」으로 바뀌지는 않을 것입니다. 그러나 이 논리를 끝없이 반복해 나가면, 최종적으로는 단 한 알의 모래만 남게 됩니다.

한 알의 모래는 「모래더미」일까요?

물론 한 알의 모래를 「모래더미」라고 부르는 사람은 없습니다. 그러나 우리는 「한 알을 제거해도 모래더미는 모래더미 그대로다」라는 전제를 한 번도 부정하지 않았습니다. 어딘가에서 논리가 파탄 났지만, 대체 몇 번째 알에서 모래더미는 모래더미가 아니게 된 걸까요?

이것이 기원전 4세기 고대 그리스의 철학자 에우불리데스에서 유래한 **「모래더미의 역설(소리테스의 역설)」**입니다.

논리적 구조

이 역설은 다음과 같은 삼단논법의 형태로 표현할 수 있습니다.

전제 1: 1만 알의 모래 모임은 「모래더미」이다. 전제 2: 모래더미에서 모래알을 하나 제거한 것은 여전히 「모래더미」이다. 결론: 따라서 한 알의 모래도 「모래더미」이다.

전제 1도 전제 2도, 각각 단독으로는 매우 그럴듯하게 들립니다. 그러나 전제 2를 반복 적용하면, 명백히 틀린 결론이 도출됩니다.

graph LR A["10,000알 = 모래더미"] -->|1알 제거| B["9,999알 = 모래더미"] B -->|1알 제거| C["9,998알 = 모래더미"] C -->|...반복...| D["100알 = 모래더미?"] D -->|1알 제거| E["10알 = 모래더미?"] E -->|1알 제거| F["1알 = 모래더미?"] style A fill:#4CAF50,color:#fff style D fill:#FF9800,color:#fff style E fill:#FF5722,color:#fff style F fill:#F44336,color:#fff,stroke-width:3px

왜 이 역설은 풀 수 없는가

모래더미의 역설의 핵심은, 「모래더미」라는 단어가 본질적으로 모호하다는 것입니다. 「모래더미」에는 「몇 알 이상이면 모래더미」라는 명확한 정의(임곗값)가 존재하지 않습니다. 이러한 개념을 **「모호 술어(vague predicate)」**라고 부릅니다.

우리의 일상 언어는 이러한 모호한 단어로 가득 차 있습니다.

**「키가 크다」**란 몇 센티미터 이상? 180cm인 사람은 「키가 크다」. 1mm 깎으면? 한 1mm 더 깎으면?
**「부자」**란 자산이 얼마 이상? 100억 원이면 「부자」. 1원 줄면?
**「대머리」**란 몇 가닥 이하? 0가닥이면 「대머리」. 1가닥 나면?

이것들은 모두 모래더미의 역설과 완전히 같은 구조를 가지고 있습니다.

철학자들의 접근법

1. 인식론적 접근법 (경계선은 존재한다)

이 접근법에서는 「실은 모래더미와 비모래더미 사이에 명확한 경계선이 존재하지만, 인간에게는 그것을 인식할 능력이 없을 뿐이다」라고 주장합니다. 예를 들어 「5,837알은 모래더미이지만 5,836알은 모래더미가 아니다」라는 정확한 경계가 있지만, 우리는 알 수 없다는 입장입니다.

논리학적으로는 깔끔하지만, 많은 사람이 직관적으로 이 입장에 위화감을 느낄 것입니다.

2. 퍼지 논리 (단계적 진릿값)

고전적인 논리학에서는 「참인가 거짓인가」의 이자택일이지만, 퍼지 논리에서는 「0에서 1 사이의 어딘가의 값」을 취할 수 있습니다.

예를 들어:

1만 알의 모래는 「모래더미도 = 1.0 (완전한 모래더미)」
5,000알이면 「모래더미도 = 0.7」
100알이면 「모래더미도 = 0.1」
1알이면 「모래더미도 = 0.0 (완전한 비모래더미)」

이 방법은 실용적이지만, 역설이 완전히 해소되는 것은 아닙니다. 「모래더미도 0.7과 0.699의 차이는 무엇인가?」라는 새로운 모호함이 생겨 버리기 때문입니다.

3. 초치부여 의미론 (Supervaluationism)

이 사고방식에서는 「모래더미」라는 단어에 대해 생각할 수 있는 모든 합리적인 경계선을 동시에 고려합니다. 모든 경계선에서 「모래더미」로 판정되면 「확실히 모래더미」, 모든 경계선에서 「비모래더미」이면 「확실히 비모래더미」, 의견이 나뉘는 영역은 「불확정」으로 판정합니다.

현대 사회에 미치는 영향

모래더미의 역설은 단순한 말장난이 아니라, 현실의 법률이나 정책의 세계에서도 심각한 문제를 일으킵니다.

성인 연령: 17세 364일은 「아이」이고, 18세 0일은 「어른」. 하루 만에 본질적으로 무엇이 바뀌는가?
빈곤선: 연 소득이 기준액보다 1원 적으면 「빈곤」이고, 1원 많으면 「비빈곤」으로 간주된다.
환경 규제: 오염 물질의 배출량이 기준치를 0.001mg 초과하면 위법. 기준치 딱 맞으면 합법.

인간의 언어와 사고는 본질적으로 모호함을 포함하고 있으며, 세계를 명확한 이항 대립으로 나누려는 것 자체가 무리일지도 모릅니다. 모래더미의 역설은 2400년 이상에 걸쳐 철학자들을 괴롭혀 온, 인간 지성의 근원적인 한계를 보여 주는 역설입니다.

스승과 제자, 어느 쪽이 이겨도 모순되는 재판: 프로타고라스의 역설

Thu, 10 Sep 2026 21:00:00 +0900

고대 그리스, 가장 위대한 소피스트(변론술 교사)인 프로타고라스에게 에우아틀로스라는 젊은이가 제자로 들어갔습니다. 두 사람 사이에는 다음과 같은 수업료 지불 계약이 체결되었습니다.

계약 내용: 에우아틀로스는 변론술의 전 과정을 수료한 후, 첫 번째 재판에서 승소한 시점에 수업료 잔액을 프로타고라스에게 지불한다.

에우아틀로스는 우수한 학생으로, 변론술의 전 과정을 훌륭히 수료했습니다. 그러나 수료 후, 그는 어찌 된 일인지 단 한 건의 재판도 맡으려 하지 않았습니다. 재판에 나가지 않으면 ‘첫 번째 재판에서 승소한다’는 조건이 영원히 충족되지 않기 때문에 수업료를 지불할 필요가 없었기 때문입니다.

애가 탄 프로타고라스는 에우아틀로스를 법정에 고소했습니다. “수업료를 지불하라"고 말이죠.

그리고 여기서부터 논리의 미궁이 시작됩니다.

스승 프로타고라스의 논리

프로타고라스는 법정에서 이렇게 주장했습니다.

“재판관님, 어떻게 되든 저의 승리입니다.

만약 이 재판에서 제가 이기면, 법원의 판결에 따라 에우아틀로스는 저에게 수업료를 지불해야 합니다.
만약 이 재판에서 제가 지면, 에우아틀로스에게는 ‘첫 번째 재판에서 승소한’ 것이 됩니다. 즉 계약 조건이 충족되어, 그는 계약에 따라 수업료를 지불해야 합니다.

어느 경우든 그는 수업료를 지불할 의무가 있습니다.”

제자 에우아틀로스의 논리

이에 맞서 에우아틀로스도 지지 않았습니다.

“재판관님, 어떻게 되든 저의 승리입니다.

만약 이 재판에서 제가 이기면, 법원의 판결에 따라 저는 수업료를 지불할 필요가 없습니다.
만약 이 재판에서 제가 지면, 저는 아직 ‘첫 번째 재판에서 승소’하지 않았습니다. 즉 계약 조건이 충족되지 않았기 때문에, 계약상 저는 수업료를 지불할 의무가 없습니다.

어느 경우든 저는 수업료를 지불할 필요가 없습니다.”

graph TD A["재판의 결과"] --> B["프로타고라스 승소"] A --> C["에우아틀로스 승소"] B --> B1["판결: 에우아틀로스는 지불한다"] B --> B2["계약: 에우아틀로스는 승소하지 않았다 → 지불하지 않아도 된다"] C --> C1["판결: 에우아틀로스는 지불하지 않아도 된다"] C --> C2["계약: 에우아틀로스의 첫 승소 → 지불해야 한다"] B1 --> D{"모순! 판결 vs 계약"} B2 --> D C1 --> E{"모순! 판결 vs 계약"} C2 --> E style A fill:#ECEFF1,stroke:#333,stroke-width:2px style B fill:#4CAF50,color:#fff style C fill:#2196F3,color:#fff style D fill:#F44336,color:#fff,stroke-width:3px style E fill:#F44336,color:#fff,stroke-width:3px

왜 모순되는가

이 역설이 발생하는 근본적인 원인은 서로 다른 두 가지 규칙 시스템(법률과 계약)이 서로 모순되는 판단을 내리기 때문입니다.

법률의 규칙: 법원의 판결을 따르라.
계약의 규칙: “첫 번째 재판에서 승소하면 지불한다"는 조건을 따르라.

일반적으로 법률과 계약은 각각 독립적인 도메인으로 기능하지만, 프로타고라스가 “수업료 지불"을 재판의 쟁점으로 삼으면서, 이 재판의 결과 자체가 계약 조건에 영향을 미치게 되어 두 시스템이 자기 언급적인 루프에 빠진 것입니다.

법학자들의 답변

고대 로마의 법학자 아울루스 겔리우스는 이 문제에 대해 다음과 같은 해결책을 제시했습니다.

“법원은 에우아틀로스에게 유리한 판결(지불 불필요)을 내려야 한다. 왜냐하면 계약 조건이 아직 충족되지 않은 것은 사실이기 때문이다. 그러나 이 판결 이후, 프로타고라스는 에우아틀로스를 다시 고소할 수 있다. 왜냐하면 첫 번째 재판에서 에우아틀로스가 승소함에 따라 계약 조건이 충족되었기 때문이다. 두 번째 재판에서는 프로타고라스가 승소할 것이다.”

즉, 역설을 ‘한 번의 재판으로 동시에 해결’하려고 하면 모순이 발생하지만, ‘두 번으로 나누어’ 처리하면 모순이 해소될 수 있다는 것이 이 답변입니다.

자기 언급의 역설과의 연결

프로타고라스의 역설은 ‘거짓말쟁이의 역설(“이 문장은 거짓이다”)‘이나 ‘러셀의 역설’과 동일한 자기 언급 구조를 가지고 있습니다. 어떤 명제(재판의 결론)가 자기 자신의 진위를 결정하는 조건(계약의 성립)에 영향을 미치게 되는 것입니다.

이러한 종류의 역설은 현대 컴퓨터 과학의 ‘정지 문제(어떤 프로그램이 정지할지 여부를 판정하는 프로그램은 만들 수 없다)‘나 괴델의 불완전성 정리 등, 논리와 계산의 근본적인 한계를 보여주는 문제들과 깊은 관련이 있습니다.

프로타고라스의 역설은 인간이 만든 규칙 시스템(법률이나 계약)이 교묘한 자기 언급에 의해 내부 붕괴될 수 있음을 가르쳐주는, 2400년 전부터 내려온 경고입니다.

에메랄드는 녹색인가, 아니면 '그루'색인가?: 굿맨의 새로운 귀납의 수수께끼

Thu, 10 Sep 2026 21:00:00 +0900

우리는 ‘과거의 경험’으로부터 ‘미래’를 예측합니다. “태양은 어제도 동쪽에서 떴으니, 내일도 동쪽에서 뜰 것이다.” “지금까지 본 에메랄드는 모두 녹색이었으니, 다음에 캐낼 에메랄드도 녹색일 것이다.”

이러한 추론을 ‘귀납법’이라고 부르며, 모든 과학의 기초가 됩니다. 하지만 1955년, 철학자 넬슨 굿맨은 이 귀납법이 근본적인 결함을 안고 있음을 보여주는 기묘한 색의 개념을 고안했습니다. 그것이 ‘그루(Grue)‘의 역설입니다.

새로운 색 ‘그루(Grue)‘의 정의

굿맨은 ‘녹색(Green)‘과 ‘파란색(Blue)‘을 합성한 ‘그루(Grue)‘라는 새로운 성질(색)을 다음과 같이 정의했습니다.

그루(Grue)의 정의: 어떤 물체가 ‘그루’라는 것은, 특정 시간 $t$(예를 들어 서기 2030년 1월 1일) 이전에 관찰된 경우에는 ‘녹색(Green)‘이며, 시간 $t$ 이후에 관찰된 경우에는 ‘파란색(Blue)‘인 것을 의미한다.

$$ \text{Grue} = \begin{cases} \text{Green} & (\text{시간} < t) \\ \text{Blue} & (\text{시간} \ge t) \end{cases} $$

이 정의에 따르면, 지금 현재(시간 $t$ 이전) 당신이 손에 들고 있는 녹색 에메랄드는 ‘녹색’인 동시에 ‘그루색’이기도 합니다.

왜 그것이 역설인가?

역설은 우리가 미래를 예측하려고 할 때 발생합니다. 지금까지 인류가 관찰해 온 모든 에메랄드는 ‘녹색’이었습니다. 따라서 우리는 귀납법을 사용하여 다음과 같이 예측합니다.

가설 A: “모든 에메랄드는 ‘녹색’이다”

하지만 잠깐만요. 지금까지 관찰된 에메랄드는 시간 $t$ 이전의 것이므로, 모두 ‘그루색’이기도 했을 것입니다. 따라서 완전히 동일한 관찰 데이터로부터 다음과 같은 예측도 성립합니다.

가설 B: “모든 에메랄드는 ‘그루색’이다”

귀납법의 규칙을 따른다면, 과거의 모든 관찰이 가설 A를 지지하는 것과 ‘완전히 동일한 강도’로 가설 B도 지지하고 있는 것이 됩니다.

graph TD A["과거의 관찰: 모든 에메랄드는 녹색이었다"] -->|동시에| B["과거의 관찰: 모든 에메랄드는 '그루색'이었다"] A --> C["귀납적 예측 A: 미래의 에메랄드도 '녹색'일 것이다"] B --> D["귀납적 예측 B: 미래의 에메랄드도 '그루색'일 것이다"] C --> E["시간 t 이후에도 녹색 그대로"] D --> F["시간 t 이후에는 '파란색'이 된다!"] style C fill:#4CAF50,stroke:#333,color:#fff style D fill:#2196F3,stroke:#333,color:#fff style F fill:#F44336,stroke:#333,color:#fff,stroke-width:2px

에메랄드는 파란색으로 변할 것인가?

만약 가설 B가 옳다고 한다면, 시간 $t$가 도래한 순간에 전 세계의 모든 에메랄드는 일제히 ‘파란색’으로 변해야만 합니다(그루의 정의에 의해).

우리는 직감적으로 “그런 바보 같은 일은 없다. 가설 B는 부자연스러운 말장난이며, 가설 A(녹색)가 옳은 것이 당연하다"라고 생각합니다.

하지만 굿맨의 질문은 더 깊은 곳에 있습니다. “녹색"과 “그루색”, 두 가설 모두 과거의 데이터와 완전히 일치하는데, 왜 우리는 “녹색"의 예측만을 정당하다고 간주하고 “그루색"의 예측을 배제하는 것일까? 그 ‘논리적인 근거’는 무엇인가?

“자연의 제일성(斉一性)“에 대한 도전

이 문제를 피하기 위해, “‘녹색’과 같은 단순한 개념을 사용해야 하며, ‘그루’처럼 시간이 포함된 복잡한 개념은 사용해서는 안 된다"는 반론이 떠오릅니다.

하지만 굿맨은 반대로 “블린(Bleen: 시간 $t$까지는 파란색, 그 이후는 녹색)“이라는 색을 정의하면, “녹색"이라는 개념 자체가 “시간 $t$까지는 그루, 그 이후는 블린"이라는 시간에 의존하는 복잡한 개념이 되어버린다는 것을 보여주었습니다. 즉, 어떤 단어를 ‘기본’으로 삼을 것인지는 우리의 언어 습관에 불과한 것입니다.

굿맨의 “그루"의 역설(새로운 귀납의 수수께끼)은, 과학 이론이 단순한 객관적인 데이터만으로 결정되는 것이 아니라, 우리가 “어떤 개념의 틀(언어)을 사용하여 세상을 바라보고 있는가"에 강하게 의존하고 있음을 증명했습니다.

AI나 머신러닝의 맥락에서도, 학습 데이터가 동일하더라도 “모델의 구조(어떤 특징에 주목할 것인가)“에 따라 미래에 대한 예측이 완전히 달라진다는 “과적합(Overfitting)“이나 “편향(Bias)“의 문제로서 이 역설은 현대에도 중요한 의미를 계속해서 가지고 있습니다.

파란 사과를 보면 '까마귀는 검다'는 것의 증명이 될까?: 헴펠의 까마귀

Thu, 10 Sep 2026 21:00:00 +0900

과학자는 어떻게 이론을 증명할까요? 보통은 세계를 관찰하고 데이터를 수집하는 ‘귀납법(induction)‘을 사용합니다. 예를 들어, “모든 까마귀는 검다"는 가설을 증명하고 싶다면, 전 세계의 까마귀를 관찰하여 그것이 검은지 하나하나 확인해 나갈 것입니다.

하지만 1940년대, 논리학자 칼 헴펠(Carl Hempel)은 이 당연한 과학적 방법론에 숨겨진 기묘한 논리적 허점을 지적했습니다. 그것이 바로 **“파란 사과나 빨간 구두를 보는 것만으로 ‘까마귀는 검다’는 증거가 된다”**는 헴펠의 까마귀(Hempel’s Ravens) 역설입니다.

논리의 뒤바뀜: 대우의 마법

헴펠의 주장을 이해하기 위해서는 고등학교 수학에서 배우는 **‘대우(contraposition)’**라는 개념을 떠올릴 필요가 있습니다.

논리학에서 어떤 명제 “A이면 B이다"가 참이면, 그 대우인 “B가 아니면 A가 아니다"도 반드시 참이 됩니다(이를 논리적 동치라고 부릅니다).

가설 $H_1$: “모든 까마귀는 검다 (까마귀라면, 검다)”

이 가설 $H_1$의 대우를 취해 봅시다. “검지 않다면, 까마귀가 아니다"가 됩니다.

가설 $H_2$: “모든 검지 않은 것은, 까마귀가 아니다”

논리학의 규칙에 따르면, $H_1$과 $H_2$는 **완전히 같은 의미(동치)**입니다. 한쪽이 증명되면, 자동으로 다른 한쪽도 증명된 것이 됩니다.

까마귀를 보지 않고 까마귀를 증명하기

이제 가설 $H_1$(까마귀는 검다)을 확인하기 위해서는, 검은 까마귀를 한 마리 발견할 때마다 가설의 확실성(증거)이 조금씩 강해집니다. 이것은 누구나 납득할 수 있는 사실입니다.

하지만 $H_1$과 $H_2$는 같은 의미이므로, 가설 $H_2$(검지 않은 것은 까마귀가 아니다)의 증거를 찾는 것은, 그대로 가설 $H_1$의 증거가 되어야 합니다.

그렇다면 $H_2$의 증거란 무엇일까요? “검지 않고, 까마귀도 아닌 것"을 찾으면 됩니다.

테이블 위에 **“파란 사과”**가 있다고 해봅시다. 이것은 검지 않고, 까마귀도 아닙니다. 따라서 $H_2$를 뒷받침하는 증거입니다.
옷장 안에 **“빨간 구두”**가 있었습니다. 이것도 검지 않고, 까마귀도 아닙니다. $H_2$의 증거입니다.
하늘에 **“하얀 구름”**이 떠 있습니다. 이것 역시 $H_2$의 증거입니다.

$H_2$의 증거는 $H_1$의 증거와 같은 가치를 지니기 때문에, 논리적으로는 다음과 같은 기묘한 결론이 도출됩니다.

“방 안에서 파란 사과나 빨간 구두를 관찰하면 할수록, ‘모든 까마귀는 검다’는 가설의 올바름이 증명되어 간다”

왜 직관에 반하는가?

파란 사과를 보고 “까마귀는 검다"고 확신을 깊게 하는 조류학자는 세상 어디에도 없습니다. 논리학적으로는 완벽하게 옳아야 하는데, 왜 우리의 상식은 이를 거부하는 것일까요?

철학이나 통계학의 세계에서는 이 역설에 대해 몇 가지 접근법을 제안하고 있습니다.

1. 베이즈주의적 해결법 (정보량의 차이)

현대 통계학(베이즈 확률) 관점에서의 가장 유력한 반론은, ‘증거의 강도(정보량)‘의 차이에 주목하는 것입니다.

세계에는 ‘검은 것’보다 ‘검지 않은 것’이 압도적으로 많고, 또한 ‘까마귀’보다 ‘까마귀가 아닌 것’이 천문학적으로 많이 존재합니다.

파란 사과를 보았을 때, 그것은 확실히 “모든 까마귀는 검다"는 것의 증거는 되지만, 그 증거로서의 가치(확률의 상승폭)가 한없이 0에 가깝다는 것입니다. 광활한 우주 속에 있는 무수히 많은 ‘검지 않은 것’ 중 하나를 확인했다고 해서, “까마귀가 검다"는 확률이 올라가는 양은 사막에서 모래알 하나를 치우는 정도의 영향밖에 없습니다. 반면, 검은 까마귀를 직접 한 마리 발견하는 것은 압도적으로 큰 증거로서의 가치를 지닙니다.

즉, 논리적으로는 “파란 사과는 증거가 된다"지만, 실용적으로는 “증거로서의 가치가 0에 가깝기 때문에 무시해도 좋다"는 것이 베이즈적 해결입니다.

2. ‘실내 조류학’의 한계

이 역설은 ‘귀납법(관찰에서 일반 법칙을 도출하는 것)‘이라는 과학의 근간이 얼마나 취약한 전제 위에 성립되어 있는지를 부각시킵니다. 논리적 동치성에만 의존하게 되면, 밖으로 나가지 않고 방 안의 잡동사니를 관찰하는 것만으로도 우주의 모든 법칙(“모든 백조는 희다”, “모든 외계인은 초록색이 아니다” 등)을 검증할 수 있게 된다는 ‘실내 조류학’이 가능해지고 맙니다.

헴펠의 까마귀는 우리가 무의식적으로 사용하고 있는 ‘증거’나 ‘증명’이라는 단어가, 순수한 기호 논리학의 규칙만으로는 제대로 포착해낼 수 없음을 보여주는 아주 흥미로운 역설입니다.

베리의 역설: "언어"로 "숫자"를 정의하려고 할 때 발생하는 모순

Thu, 10 Sep 2026 11:00:00 +0900

1. 언어로 숫자 표현하기

우리는 일상적으로 숫자를 “아라비아 숫자(1, 2, 3…)“뿐만 아니라 “언어(한국어나 영어 등)“를 사용하여 표현하고 있습니다.

예를 들어, “$10$“이라는 숫자는 일본어로 다음과 같이 여러 가지 말로 표현할 수 있습니다.

“じゅう(십)” (3글자)
“ごの2ばい(오의 2배)” (5글자)
“ひゃくの10ぶんの1(백의 10분의 1)” (9글자)

이처럼 어떤 숫자를 “일본어 글자"를 사용하여 설명하는 것을 생각해 봅시다. 사용할 수 있는 글자 수에는 제한을 둡니다. 여기서는 **“19글자 이하”**의 일본어로 표현할 수 있는 숫자에 대해 생각합니다.

당연하지만, 19글자 이하로 표현할 수 있는 숫자에는 한계가 있습니다. 일본어의 글자(히라가나, 가타카나, 한자 등) 종류는 유한하고, 이를 19글자 이하로 나열하는 조합도 유한하기 때문입니다(천문학적인 수가 되겠지만, 무한하지는 않습니다).

즉, **“19글자 이하의 일본어로는 도저히 표현할 수 없는 거대한 정수”**가 반드시 존재하게 됩니다.

2. 역설의 탄생

자, 지금부터가 본론입니다. “19글자 이하의 일본어로는 표현할 수 없는 정수"는 무수히 존재합니다. 그 무수히 많은 표현 불가능한 수 중에서, **“가장 작은 것(최소의 정수)”**을 하나 찾아냈다고 가정해 봅시다.

그 숫자를 $X$라고 합니다. $X$는 정의상 “19글자 이하의 일본어로는 표현할 수 없는 수” 중에서 가장 작은 것이므로, 다음과 같이 부를 수 있습니다.

“じゅうきゅうもじいないであらわせないさいしょうのせいすう” (십구 문자 이하로 나타낼 수 없는 최소의 정수)

글자 수를 세어 봅시다. “じゅ・う・きゅ・う・も・じ・い・な・い・で・あ・ら・わ・せ・な・い・さ・い・しょ・う・の・せ・い・す・う” …어라? 독점을 빼고도 25글자네요. 이래서는 “19글자"를 초과해 버립니다.

그럼, 조금 표현을 궁리해서, 한자를 사용하여 짧게 만들어 봅시다.

“十九文字以内で表せない最小の整数”

자, 이 일본어의 글자 수를 세어 보세요.

무려, **단 “16글자”**입니다.

이상한 일이 벌어졌습니다. 우리는 지금, $X$라는 숫자를 “十九文字以内で表せない最小の整数"라는 “16글자의 일본어"를 사용하여 표현해 버린 것입니다!

graph TD Define["정의:
X = 19글자 이하로 표현할 수 없는 가장 작은 정수"] --> CheckLength{"『十九文字以内で表せない最小の整数』
의 글자 수는?"} CheckLength -->|16글자이다| Contradiction["모순!
X는 『16글자』로 표현되어 버렸다!"] Contradiction --> Paradox["X는 『19글자 이하로 표현할 수 없음』에도
『19글자 이하(16글자)로 표현할 수 있다』"] style Contradiction fill:#ff9999,stroke:#333 style Paradox fill:#ff4444,color:#fff,stroke:#333,stroke-width:2px

$X$는 “19글자 이하로 표현할 수 없는” 숫자여야 하는데, 바로 그 정의하는 말 자체가 “16글자(19글자 이하)“로 $X$를 완벽하게 표현하고 있습니다. 이것이 **“베리의 역설(Berry Paradox)”**입니다.

3. 누가 이 역설을 만들었을까?

이 역설은 1904년에 옥스퍼드 대학교의 도서관 사서였던 G. G. 베리(G. G. Berry)라는 인물이 고안했습니다. 그것을 20세기를 대표하는 천재 수학자이자 철학자인 버트런드 러셀이 자신의 논문에서 소개하면서 전 세계에 알려졌습니다.

(※ 영어 원문 논문에서는 “The least integer not nameable in fewer than nineteen syllables”(19음절 미만으로 이름 붙일 수 없는 가장 작은 정수)라는 표현이 사용되었으며, 영어의 음절 수로 역설이 성립하도록 만들어졌습니다.)

4. 왜 모순이 일어났을까?

이 역설의 근본적인 원인은, 우리가 평소에 사용하는 “자연어(한국어나 영어, 일본어 등)“가 가진 모호성과 자기언급성에 있습니다.

자연어는 수학의 엄밀함을 견디지 못한다

수학의 세계에서, “숫자를 정의한다"는 것은 매우 엄밀한 작업입니다(방정식이나 기호를 사용합니다). 그러나 베리의 역설에서는 수학적인 대상(정수)을 “표현할 수 있다”, “표현할 수 없다"는 인간의 일상 언어를 사용하여 정의하려고 했습니다.

일상 언어는 매우 강력하고 유연하지만, 그 유연함 때문에 “자기 자신의 글자 수에 대해 언급한다"는 곡예와 같은 일이 가능해집니다. 그 결과, “정의 그 자체가, 정의의 규칙을 깬다"는 자기 모순(자기언급의 역설)을 일으키고 만 것입니다.

“이름 붙여진다"는 것은 어떤 의미인가?

또한, “16글자로 표현할 수 있다"는 말의 정의도 모호합니다. “19글자 이하로 표현할 수 없는 가장 작은 정수"라는 문구는, 특정한 구체적인 숫자(예를 들어 $987654321...$과 같은 수)를 직접 가리키고 있는 것은 아닙니다. 단지 “조건을 만족하는 숫자가 있을 것이다"라고 간접적으로 기술하고 있을 뿐입니다.

수학적으로는, “직접적으로 계산 가능한 형태로 표현하는 것"과 “간접적인 조건을 언어로 서술하는 것"은 명확히 구별되어야 합니다. 이 두 가지를 혼동하여 “16글자로 표현할 수 있었다!“라고 주장하는 데에, 논리적인 속임수가 숨겨져 있습니다.

5. 요약과 현대에 미친 영향

베리의 역설은 얼핏 보면 그저 단순한 “말장난"이나 “억지"처럼 보입니다. 그러나 이 문제는 20세기 수학자들에게 **“일상 언어를 사용하여 수학의 기초를 세우는 것의 위험성”**을 깊이 인식시키는 계기가 되었습니다.

“언어로 숫자를 정의해서는 안 된다. 수학은 완전히 독립적이고 엄밀한 기호만으로 구축되어야 한다.”

이 역설은 훗날 수학의 역사를 바꾸는 “괴델의 불완전성 정리(수학에는 절대 증명할 수 없는 진리가 존재한다)“나 컴퓨터 과학에서의 “콜모고로프 복잡도(정보를 얼마나 짧게 압축할 수 있는가 하는 이론)” 등, 최첨단 학문으로 이어지는 중요한 이정표가 되었습니다.

단 16글자의 언어가 수학의 한계를 파헤쳤다. 그것이 베리의 역설이 가진 아름다움입니다.

깜짝 시험의 역설: 논리적으로 "절대 불가능한" 시험이 치러지는 날

Thu, 10 Sep 2026 10:00:00 +0900

1. 선생님의 “절대적인 선언”

어느 금요일 하굣길, 수학 선생님이 학생들을 향해 무서운 선고를 했습니다.

“다음 주 월요일부터 금요일 중 하루에, 단 한 번만 ‘깜짝 시험’을 실시하겠다. 단, 그날 아침 시점에 너희들이 ‘오늘이 시험 날이다’라고 확실하게 예측할 수 있다면, 그것은 깜짝 시험이 아니므로 그날에는 시험을 치르지 않겠다”

이 선언을 듣고 학생들은 두려움에 떨었습니다. 언제 시험이 치러질지 매일 조마조마하며 지내야 했기 때문입니다. 하지만 반에서 가장 똑똑한 A군이 갑자기 씩 웃으며 일어났습니다.

“얘들아, 안심해도 돼. 다음 주에 깜짝 시험이 치러지는 일은 절대 있을 수 없어. 논리적으로 불가능해!”

A군은 자신만만하게 다음과 같은 “완벽한 논리"를 칠판에 적기 시작했습니다.

2. A군의 “완벽한 논리"에 의한 증명

A군의 증명은 “금요일"부터 시간을 거슬러 올라가며 생각하는(역방향 추론) 수학적 기법을 사용하고 있습니다.

1단계: 금요일의 가능성을 지운다

만약, 월·화·수·목 4일 동안 계속 시험이 치러지지 않았다고 가정해 보자. 그러면 남은 날은 “금요일"밖에 없다. 금요일 아침 시점에 학생들은 “남은 날은 오늘밖에 없으니, 틀림없이 오늘이 시험이다!“라고 확실하게 예측해 버릴 수 있다. 선생님의 선언에 따르면, “예측할 수 있는 날에는 실시하지 않는다"고 했으므로, 금요일에 깜짝 시험을 실시하는 것은 논리적으로 불가능하다. 따라서, 금요일 시험은 절대 없다.

2단계: 목요일의 가능성을 지운다

금요일에 시험이 없다는 것이 확정되었다. 그렇다는 것은 시험이 치러질 가능성이 있는 마지막 날은 “목요일"이다. 만약 월·화·수 3일 동안 시험이 치러지지 않았다고 가정해 보자. 그러면 남은 가능성은 목요일밖에 없다(금요일은 이미 소거됨). 목요일 아침 시점에 학생들은 “오늘이 시험이다!“라고 확실하게 예측해 버릴 수 있다. 따라서, 목요일 시험도 절대 없다.

3단계: 모든 요일이 지워진다

같은 논리를 반복하면 된다. 목요일이 없다면, 마지막 날은 수요일이 된다. 따라서 화요일까지 시험이 없다면, 수요일 아침에 예측할 수 있게 되므로 수요일도 지워진다. 수요일이 지워지면 화요일도 지워지고, 월요일도 지워진다. 결론: 선생님의 규칙을 지키는 한, 월요일부터 금요일 중 어느 요일이든 절대 깜짝 시험을 실시하는 것은 불가능하다!

graph TD Fri["금요일 아침
(월〜목 시험 없음)"] -->|'금요일밖에 없다'고 예측 가능| NoFri["금요일은 시험 불가"] Thu["목요일 아침
(월〜수 시험 없음)"] -->|'금요일은 없으니 오늘밖에 없다'고 예측 가능| NoThu["목요일은 시험 불가"] Wed["수요일 아침"] -->|'목금은 없으니 오늘밖에 없다'고 예측 가능| NoWed["수요일은 시험 불가"] Tue["화요일 아침"] -->|마찬가지로 예측 가능| NoTue["화요일은 시험 불가"] Mon["월요일 아침"] -->|마찬가지로 예측 가능| NoMon["월요일은 시험 불가"] NoFri -.-> Thu NoThu -.-> Wed NoWed -.-> Tue NoTue -.-> Mon style NoFri fill:#ff9999,stroke:#333 style NoThu fill:#ff9999,stroke:#333 style NoWed fill:#ff9999,stroke:#333 style NoTue fill:#ff9999,stroke:#333 style NoMon fill:#ff9999,stroke:#333

반 학생들은 환호했습니다. A군의 논리는 완벽했고, 어디에도 빈틈이 없어 보였습니다. 그들은 주말을 즐겁게 놀며 보냈고, 시험 공부 따위는 전혀 하지 않은 채 월요일을 맞이했습니다.

월요일…… 시험은 없었습니다. “거봐!” 화요일…… 시험은 없었습니다. “A군 말이 맞았어!”

그리고 수요일 아침. 드르륵! 하고 교실 문이 열리고, 선생님이 들어와서 말했습니다.

“자, 책상 위를 치워라. 지금부터 깜짝 시험을 시작하겠다!”

학생들은 패닉에 빠졌습니다. “어, 어째서!? 수요일에 시험이 있을 줄은, 전혀 예측하지 못했다!”

선생님은 씩 웃었습니다. “거봐, 너희들은 예측하지 못했지? 내 ‘선언’은 완전히 옳았고, 규칙대로 깜짝 시험은 성립한 것이다”

3. 도대체 어디서 논리가 잘못되었던 것일까?

A군의 증명은 완벽해 보였는데, 왜 현실에서는 “완벽한 깜짝 시험"이 성립해 버린 것일까요? 이 문제는 원래 “예기치 못한 교수형의 역설(Unexpected hanging paradox)“이라고 불리며, 1940년대에 스웨덴의 수학자 렌나르트 에크봄(Lennart Ekbom)이 고안한 이래 철학자와 논리학자들을 계속 괴롭혀 왔습니다.

사실, 이 역설에는 “이것이 유일하고 절대적인 정답이다"라는 통일된 견해가 아직 없습니다. 하지만, 몇 가지 유력한 해결 접근법이 존재합니다.

접근법 1: “지식의 역설(인식론)”

A군 추론의 가장 큰 함정은, “선생님의 선언은 100% 진실이다"라는 전제를 자기 자신의 예측 안에 포함시켜 버렸다는 것입니다.

선생님의 선언은, “다음 주에 시험을 치른다(P)“와 “예측할 수 있는 날에는 치르지 않는다(Q)“의 두 가지 조건으로 이루어져 있습니다. 만약 금요일까지 시험이 없었을 경우, 학생은 “선언이 맞다면 오늘밖에 없다"고 생각하지만, 동시에 “오늘이라고 예측할 수 있다면 선언의 Q에 어긋난다. 그렇다면 애초에 P(시험을 치른다)라는 선언 자체가 거짓말이었던 것은 아닐까?“라고 의심할 여지가 생깁니다.

“선생님의 말씀이 절대적으로 맞다"는 믿음과, “논리적 추론"이 충돌한 결과, 학생들은 “선생님은 시험을 치르지 않는다"라는 잘못된 결론(믿음)을 품게 되었고, 그 결과로 언제 시험이 나오더라도 “예기치 못한(깜짝)” 상태가 되어버린 것입니다.

접근법 2: “자기 지시의 역설”

선생님의 말씀을 논리식으로 고쳐 봅시다. 선생님의 주장을 $S$ 라고 합니다. $S = $ “나는 어느 날 $T$ 에 시험을 치른다. 그리고, 너희들은 그날 $T$ 를 예측할 수 없다.”

이 주장은 자기 자신(선언)을 학생들이 어떻게 받아들이느냐에 따라 참과 거짓이 바뀌는, **“자기 지시적인 구조”**를 가지고 있습니다. “거짓말쟁이의 역설(‘이 문장은 거짓이다’)“과 마찬가지로, 논리적인 추론을 빙글빙글 무한 루프에 빠지게 만드는 성질이 있는 것입니다.

4. 일상생활에 숨어있는 “깜짝 시험”

이 역설은 수학뿐만 아니라, 우리의 친숙한 생활에도 응용됩니다.

【서프라이즈 파티의 딜레마】

“이번 달 네 생일에 서프라이즈 파티를 할게!“라고 친구가 선언했다고 합시다. 이 말을 들은 당신은, “오늘일까? 내일일까?“라며 매일 예상합니다. 월말의 마지막 날이 되어도 파티가 없다면, “서프라이즈(예상할 수 없다)“라는 조건을 만족하기 위해서는 마지막 날에는 절대 할 수 없을 텐데…… 라고 추론해 버립니다. 하지만 현실에서는 적당한 중순에 갑자기 케이크가 나오면, 당신은 “정말 깜짝 놀랐어!“라며 완벽한 서프라이즈를 받게 되는 것입니다.

5. 요약

“깜짝 시험의 역설"은 인간의 “알고 있다(예측하고 있다)“라는 상태 자체를 논리 계산에 포함시키는 것의 어려움을 훌륭하게 표현하고 있습니다.

우리가 “완벽한 추론"이라고 생각하는 것은, 사실 “상대방이 규칙을 절대적으로 지킬 것이다"라는 근거 없는 믿음 위에 세워진 모래성에 불과할지도 모릅니다. 다음에 선생님이 “깜짝 시험을 치르겠다"고 말씀하시면, 논리를 억지로 짜맞추는 것은 그만두고 얌전히 매일 공부해 두는 것이 가장 합리적이라고 할 수 있겠습니다.

러셀의 역설: "자신을 포함하지 않는 집합의 집합"은 자신을 포함할까?

Thu, 10 Sep 2026 04:00:00 +0900

1. 평화로운 마을을 덮친 “이발사의 역설”

어느 평화로운 마을에, 한 명의 이발사가 있었습니다. 마을 입구에는 다음과 같은 기묘한 푯말이 서 있었습니다.

“이 마을의 이발사는, 스스로 자신의 수염을 깎지 않는 마을 사람 전원의 수염을 깎아주고, 그 외의 사람의 수염은 깎지 않습니다.”

마을 사람들은 이 규칙에 만족했습니다. 스스로 깎을 수 없는 사람은 이발사에게 가면 되고, 스스로 깎을 수 있는 사람은 집에서 깎으면 되기 때문입니다.

그러나 어느 날, 젊은 이발사는 거울을 보고 깜짝 놀랐습니다. 그의 턱에는 까칠하게 수염이 자라 있었던 것입니다. “자, 나는 내 수염을 깎아야 할까?”

그는 푯말의 규칙에 따라 논리적으로 생각해 보기로 했습니다.

만약 그가 “자신의 수염을 깎는다"고 한다면? 규칙에 따르면, 이발사는 “스스로 자신의 수염을 깎지 않는 사람"의 수염만 깎아야 합니다. 따라서, 스스로 수염을 깎는 그는, 이발사(자기 자신)에게 수염을 깎을 자격이 없습니다. 즉, “깎아서는 안 된다”.
만약 그가 “자신의 수염을 깎지 않는다"고 한다면? 규칙에 따르면, 이발사는 “스스로 자신의 수염을 깎지 않는 사람” 전원의 수염을 깎아야만 합니다. 따라서, 스스로 수염을 깎지 않는 그는, 이발사(자기 자신)에게 수염을 깎게 해야 합니다. 즉, “깎아야만 한다”.

“깎는다고 한다면, 깎아서는 안 된다.” “깎지 않는다고 한다면, 깎아야만 한다.”

이발사는 완전히 패닉에 빠져, 어느 쪽의 행동도 취할 수 없게 되어버렸습니다. 이것이 유명한 **“이발사의 역설”**입니다.

graph TD Barber["이발사: 자신의 수염을 깎아야 할까?"] Barber -->|YES: 스스로 깎는다| Cond1["규칙 위반!
（스스로 깎는 사람의 수염은 깎아서는 안 된다）"] Barber -->|NO: 스스로 깎지 않는다| Cond2["규칙 위반!
（스스로 깎지 않는 사람의 수염은 깎아야만 한다）"] Cond1 --> Paradox["모순(역설)"] Cond2 --> Paradox style Paradox fill:#ff4444,color:#fff,stroke:#333,stroke-width:2px

2. 수학계를 뒤흔든 “러셀의 역설”

이 “이발사의 역설"은, 영국의 논리학자이자 철학자인 버트런드 러셀이 자신이 발견한 수학적 역설을 일반인들도 알기 쉽게 설명하기 위해 만든 비유입니다.

그가 실제로 발견한 것은 이발사가 아니라, **“집합(Set)”**에 관한 무서운 모순이었습니다. 그것을 **“러셀의 역설(1901년)”**이라고 부릅니다.

“집합의 집합"이라는 사고방식

수학에서 “집합"이란, 어떠한 조건을 만족하는 것들의 모임을 말합니다.

“10 이하의 짝수의 집합” = $\{2, 4, 6, 8, 10\}$
“붉은 사과의 집합”

그리고, 집합의 내용물(원소)로서, 다른 “집합"을 넣을 수도 있습니다. 예를 들어, “전 세계의 모든 책의 집합"을 생각해 봅니다. 이 집합 자체는 “책"이 아니므로, “전 세계의 모든 책의 집합"은 자기 자신의 집합 안에는 포함되지 않습니다.

한편, “책이 아닌 것들의 집합"을 생각해 봅니다. 이 집합 자체도 “책"이 아닙니다. 따라서, “책이 아닌 것들의 집합"은 자기 자신의 집합 안에 포함되게 됩니다.

이처럼, 세상의 집합은 크게 두 종류로 나눌 수 있습니다.

A: 자기 자신을 포함하지 않는 집합(예: 책의 집합)
B: 자기 자신을 포함하는 집합(예: 책이 아닌 것들의 집합)

악마의 집합 $R$ 의 탄생

여기서 러셀은, 다음과 같은 특수한 집합 $R$ 을 생각했습니다.

집합 $R$ = “자기 자신을 포함하지 않는 집합(A의 유형)“을 모두 모은 집합

수식(조건제시법)으로 쓰면 이렇게 됩니다.

$$ R = \{ x \mid x \notin x \} $$

자, 이제부터가 본론입니다. 러셀은 이 집합 $R$ 에 대해, 다음과 같은 질문을 던졌습니다.

“집합 $R$ 은 자기 자신($R$)을 포함합니까?”

생각해 봅시다.

만약 $R$ 이 “자기 자신을 포함한다($R \in R$)“고 한다면? $R$ 안에 들어갈 조건은 “자기 자신을 포함하지 않는 것"입니다. 따라서, $R$ 은 조건을 만족하지 못하고, $R$ 안에 들어갈 수 없습니다. ($R \notin R$ 이 되어 모순)
만약 $R$ 이 “자기 자신을 포함하지 않는다($R \notin R$)“고 한다면? $R$ 안에 들어갈 조건은 “자기 자신을 포함하지 않는 것"입니다. 따라서, $R$ 은 훌륭하게 조건을 만족하며, $R$ 안에 들어가야만 합니다. ($R \in R$ 이 되어 모순)

수식으로 쓰면, 단 한 줄의 논리 붕괴입니다.

$$ R \in R \iff R \notin R $$

“포함한다고 하면, 포함되지 않는다.” “포함되지 않는다고 하면, 포함한다.” 이것은 이발사의 역설과 완전히 똑같은 구조입니다. 하지만, 마을의 이발사라면 “그런 규칙의 푯말을 세운 촌장이 바보일 뿐이다"라며 웃어넘길 일이지만, 수학의 세계에서는 그렇지 않습니다.

왜냐하면 당시의 수학계는, **“조건만 명확히 정의하면, 어떤 것이든 자유롭게 ‘집합’을 만들어도 좋다”**는 소박한 규칙(소박한 집합론)을 토대로 하여, 모든 수학을 재구축하려던 한창이었기 때문입니다.

3. 프레게의 비극

러셀이 이 편지를 보낸 상대는, 독일의 위대한 논리학자 고틀로프 프레게였습니다. 프레게는 마침 자신의 인생 전부를 바친 대저 『산술의 기본 법칙』 제2권을 인쇄소에 넘긴 직후였습니다. 이 책은, “어떤 조건에서든 집합을 만들 수 있다"는 규칙을 기초로 하여, 수학의 완전성을 증명하려고 한 집대성이었습니다.

러셀의 편지를 읽은 프레게는 절망했습니다. 자신의 책의 “기초 중의 기초” 규칙을 사용하면, 러셀의 역설과 같은 “절대로 모순되는 집합"을 만들 수 있다는 것이 증명되었기 때문입니다. 기초가 무너지면, 그 위에 세워진 수백 페이지의 수식은 모두 무효가 되어버립니다.

프레게는 출판 직전의 책 말미에, 다음과 같은 비통한 추기를 남겼습니다.

“과학자에게, 자신의 작업이 완성되었다고 생각한 순간에 그 기초가 무너져 내리는 것을 보는 것만큼 비참한 일은 없다. 이 책이 인쇄에 들어간 직후, 버트런드 러셀 씨의 편지로 인해, 나는 바로 그 상황에 처하게 되었다.”

4. 위기를 극복하며: 공리적 집합론의 탄생

러셀의 역설은, 수학계에 “수학 기초의 위기"라 불리는 대패닉을 일으켰습니다. “조건만 정하면 자유롭게 집합을 만들어도 좋다"는 자유분방한 규칙이, 모순이라는 이름의 괴물을 낳아버린 것입니다.

이 위기를 해결하기 위해, 수학자들은 규칙의 엄격화에 나섰습니다. 체르멜로나 프렝켈 같은 수학자들은, **“만들어도 좋은 집합"과 “만들어서는 안 되는 (너무 큰) 집합"을 엄밀하게 구별하는 규칙서(공리계)**를 정비했습니다. 이것을 “ZFC 공리계(공리적 집합론)“라고 부릅니다.

ZFC 공리계 하에서는, 러셀이 생각했던 것과 같은 “모든 ‘자신을 포함하지 않는 집합’을 모은 집합 $R$“은, **“너무 커서 위험하기 때문에, 더 이상 ‘집합’으로서 인정하지 않는다(그것은 단순한 ‘고유 클래스’이다)”**라며 수학의 세계에서 출입을 금지당했습니다.

graph LR subgraph "소박한 집합론(러셀 이전)" Free["어떤 조건이든 자유롭게
집합을 만들 수 있다!"] --> Monster["모순의 괴물 R
(러셀의 역설)"] end subgraph "공리적 집합론(현대 수학)" Strict["엄격한 규칙(공리)을 따르는
것만이 '집합'"] --> Safe["모순 R은 '집합'으로서
인정되지 않으므로 안전!"] end Monster -.->|수학계의 위기| Strict

5. 요약: 역설은 “논리의 버그"를 고치기 위한 극약

러셀의 역설은, “자신의 꼬리를 먹는 뱀(우로보로스)“이나 “나는 거짓말쟁이라고 말하는 거짓말쟁이"와 같이, 자기 언급(자기 자신을 언급하는 것)이 일으키는 논리 버그의 극치입니다.

언뜻 보면 단순한 억지나 말장난처럼 생각될 수 있는 역설이, 수학이라는 가장 엄밀한 학문의 근저를 파괴하고, 결과적으로 수학을 보다 견고하고 엄밀한 것으로 진화시켰습니다.

만약 러셀이라는 천재가 이 “이발사의 버그"를 눈치채지 못했다면, 현대의 수학이나, 그 논리의 연장선상에 있는 컴퓨터 과학은 어딘가에 치명적인 모순을 안은 채 발전했을지도 모릅니다. 역설이란, 인간 논리의 한계를 가르쳐 주는 가장 자극적인 극약인 것입니다.