1. 머리말: 정수론의 거성, 시무라 고로
현대 수학의 역사에 있어서 산술 기하학이라는 분야에 결정적인 영향을 미친 일본인 수학자가 있습니다. 그의 이름은 시무라 고로 (Goro Shimura, 1930년 - 2019년)입니다. 그는 훗날 ‘페르마의 마지막 정리’ 증명에 최대의 열쇠가 된 ‘타니야마-시무라 추측(현재는 모듈러성 정리로 불림)‘을 제창하고, 나아가 현대 정수론에서 극히 중요한 대상인 ‘시무라 다양체’를 구성하는 등 그 업적은 헤아릴 수 없습니다.
본 기사에서는 시무라 고로라는 고고한 수학자의 생애를 되돌아보면서, 그가 수학계에 어떠한 금자탑을 세웠는지, 그리고 그 배경에 있는 치열한 철학과 미학에 대해 깊이 파헤쳐 보겠습니다. 그의 업적을 이해하는 것은 20세기 후반의 수학이 어떻게 발전해 왔는지를 이해하는 것과 같다고 해도 과언이 아닙니다.
2. 젊은 시절과 수학에 대한 눈뜸
2.1 전쟁의 그림자와 학문에 대한 갈망
시무라 고로는 1930년 2월 23일, 시즈오카현 하마마츠시에서 태어났습니다. 그의 어린 시절은 그야말로 제2차 세계대전의 먹구름이 짙게 드리운 가혹한 시대였습니다. 전시 중의 물자 부족과 공습의 공포 속에서도 그의 지적 호기심은 결코 사라지지 않았습니다. 전후의 혼란기 속에서 많은 젊은이들이 생존 그 자체에 급급했던 가운데, 시무라는 수학과 물리학, 그리고 문학에 대한 깊은 관심을 키워 나갔습니다.
그의 저서 『기억의 절그림(The Map of My Life)』에 따르면, 그는 독학으로 고도의 수학 서적을 탐독했으며, 때로는 난해한 프랑스어 수학 서적에도 손을 뻗었다고 합니다. 이러한 “누구에게 배우지 않고 자신의 힘으로 진리를 탐구한다"는 자세는 평생에 걸쳐 시무라의 수학적 스타일의 근간을 이루게 됩니다.
2.2 도쿄대학에서의 나날
1949년, 시무라는 도쿄대학 이학부 수학과에 입학합니다. 당시 일본의 수학계는 타카기 테이지의 유체론 등을 기반으로 삼고 있었지만, 전후 부흥기 속에서 세계적인 조류를 어떻게 따라잡을 것인가 하는 과제에 직면해 있었습니다. 여기서 시무라는 훗날 깊은 친분을 맺고 운명을 함께하게 될 타니야마 유타카 (Yutaka Taniyama)와 만납니다.
타니야마는 직관적이고 분방한 발상을 가진 천재형 수학자였던 반면, 시무라는 엄밀성을 중시하고 논리의 세부적인 부분까지 결코 타협을 허용하지 않는 완벽주의자였습니다. 이 대조적인 두 사람의 만남이 이윽고 수학계를 뒤흔들 거대한 이론의 씨앗을 낳게 됩니다.
3. 타니야마 유타카와의 만남과 ‘타니야마-시무라 추측’
3.1 운명적인 만남
시무라와 타니야마가 친해지게 된 계기는 어떤 하나의 수학적 문제를 둘러싼 사소한 대화였다고 전해집니다. 그들은 서로의 재능을 인정하고, 밤낮을 가리지 않고 수학 논의에 몰두했습니다. 특히 그들이 흥미를 가졌던 것은 대수 기하학과 정수론의 교차점에 있는 ‘복소곱셈론’의 근대화였습니다.
3.2 1955년 닛코 심포지엄
1955년, 토치기현 닛코에서 대수적 정수론에 관한 국제 심포지엄이 개최되었습니다. 이 회의에는 앙드레 베유(André Weil)와 장피에르 세르(Jean-Pierre Serre) 등 세계 최정상급 수학자들이 참석했습니다.
이 심포지엄을 위해 일본의 젊은 수학자들은 미해결 문제들을 모아 문제집을 만들었습니다. 그 안에는 타니야마 유타카가 제출한 몇 가지 문제들이 포함되어 있었습니다. 이것이 훗날 ‘타니야마-시무라 추측’이라고 불리게 되는 것의 원형입니다.
3.3 타원 곡선과 모듈러 형식의 가교
타니야마-시무라 추측을 아주 간단히 말하자면, “모든 유리수체 위의 타원 곡선은 모듈러이다"라는 주장입니다. 이는 전혀 다른 두 수학적 우주를 연결하는, 경천동지할 추측이었습니다.
$$ E: y^2 = x^3 + ax + b \quad (a, b \in \mathbb{Q}) $$이러한 방정식으로 표현되는 타원 곡선 $E$ 의 성질은 각 소수 $p$ 를 법으로 했을 때의 방정식 해의 수와 관련된 수열 $\{a_p\}$ 에 의해 특징지어집니다. 이를 통해 하세-베유의 $L$ 함수 $L(s, E)$ 가 정의됩니다.
$$ L(s, E) = \prod_{p \mid \Delta} (1 - a_p p^{-s})^{-1} \prod_{p \nmid \Delta} (1 - a_p p^{-s} + p^{1-2s})^{-1} $$한편, 모듈러 형식 $f$ (여기서는 무게 2의 첨점 형식)는 복소 상반평면에서 정의되는 극도로 대칭성이 높은 함수이며, 그 푸리에 전개 계수 $\{c_n\}$ 으로부터 독자적인 $L$ 함수 $L(s, f)$ 가 정의됩니다.
$$ f(z) = \sum_{n=1}^{\infty} c_n e^{2\pi i n z} $$타니야마와 시무라의 주장은, “임의의 타원 곡선 $E$ 에 대하여, 어떤 모듈러 형식 $f$ 가 존재하여, 모든 소수 $p$ 에 대해 $a_p = c_p$ 가 성립한다”, 즉 $L(s, E) = L(s, f)$ 가 된다는 것이었습니다. 이는 정수론의 세계(타원 곡선)와 해석의 세계(모듈러 형식)가 완전히 대응하고 있음을 의미합니다.
flowchart LR
A["정수론의 세계"] -->|"L함수 일치"| B["해석의 세계"]
subgraph SG1 ["유리수체 위의 타원 곡선"]
N1["방정식 E: y² = x³ + ax + b"]
N2["하세-베유 L함수 L(s, E)"]
end
subgraph SG2 ["모듈러 형식"]
N3["무게 2의 첨점 형식 f(z)"]
N4["디리클레 급수 L(s, f)"]
end
SG1 -->|"타니야마-시무라 추측"| SG2
%% 이 그림은 전혀 다른 개념이 깊이 결부되어 있음을 보여줍니다.
당초 이 추측은 너무나도 엉뚱하여 베유 같은 대수학자조차도 회의적이었습니다. 그러나 시무라는 이 직관적인 추측에 대해 엄밀한 수학적 뒷받침을 제공하고 이론으로 다듬어 나갔습니다.
4. 타니야마의 비극과 시무라의 결의
이론 구축이 본격화되려던 찰나인 1958년, 비극이 일어납니다. 타니야마 유타카가 23세라는 젊은 나이에 스스로 목숨을 끊고 만 것입니다. 유서에는 “지금까지 나를 키워준 사람들에 대한 감사"와 “스스로도 이유를 명확히 알 수 없는 피로"가 적혀 있었습니다. 게다가 몇 주 뒤, 타니야마와 약혼했던 여성도 그의 뒤를 이어 목숨을 끊는 가슴 아픈 일이 겹쳤습니다.
시무라에게 있어 최고의 이해자이자 공동 연구자였던 타니야마를 잃은 슬픔은 헤아릴 수 없습니다. 그러나 시무라는 슬픔을 딛고, 타니야마가 남긴 미완성의 아이디어를 자신의 손으로 증명하여 세계에 인정받게 하겠다는 강한 사명감을 품습니다. 시무라는 그 후 미국으로 건너가 프린스턴 대학 등에서 연구를 계속하면서, 이 추측을 보다 정확한 형태로 정식화하고 국제적인 인지도를 높여 나갔습니다. 이 때문에 이 추측은 ‘타니야마-시무라 추측’이라고 불리게 되었습니다.
5. 페르마의 마지막 정리를 향한 여정
5.1 프라이의 아이디어와 리베트의 증명
시간이 흘러 1980년대, 타니야마-시무라 추측은 ‘페르마의 마지막 정리‘와 극적인 형태로 결부됩니다. 1984년, 게르하르트 프라이(Gerhard Frey)는 만약 페르마의 마지막 정리에 반례 $a^n + b^n = c^n$ 이 존재한다고 가정할 경우, 그로부터 기묘한 타원 곡선(프라이 곡선)을 구성할 수 있음을 보였습니다.
$$ y^2 = x(x - a^n)(x + b^n) $$프라이는 이 곡선이 너무나도 비정상적인 성질을 가지기 때문에 모듈러가 될 수 없다 (즉 타니야마-시무라 추측을 만족하지 않는다)고 추측했습니다. 이것이 옳다면, “타니야마-시무라 추측이 증명되면 페르마의 마지막 정리도 증명된다"는 뜻이 됩니다.
1986년, 켄 리베트(Ken Ribet)가 프라이의 추측(입실론 추측)을 완전히 증명했습니다. 이로써 350년간 미해결이었던 페르마의 마지막 정리는 타니야마-시무라 추측을 증명하는 문제로 완전히 귀착된 것입니다.
5.2 앤드루 와일즈의 증명
이 소식을 듣고 일어선 것이 영국의 수학자 앤드루 와일즈 (Andrew Wiles)입니다. 그는 7년간의 은밀한 연구 끝에 1993년, 준안정 타원 곡선에 대한 타니야마-시무라 추측의 증명을 발표했습니다. 도중에 증명에 중대한 결함이 발견되는 위기 상황이 있었으나, 옛 제자 리처드 테일러(Richard Taylor)의 협력으로 1994년에 완전히 수정되었습니다.
와일즈에 의한 타니야마-시무라 추측(의 일부) 증명은 그대로 페르마의 마지막 정리의 완전한 증명을 의미했습니다. 수학사에서 가장 위대한 드라마 중 하나입니다.
5.3 시무라의 반응: “당연한 일이다”
와일즈의 증명이 발표되고 전 세계가 열광의 소용돌이에 휩싸였을 때, 기자로부터 감상을 요구받은 시무라 고로는 조용하지만 힘주어 이렇게 대답했습니다.
“I told you so.” (내가 그렇다고 말했지 않습니까)
이 말에는 자신(그리고 타니야마)의 직관이 옳았음에 대한 절대적인 자신감과, 오랜 세월이 흘러 그것이 증명된 것에 대한 깊은 감회가 담겨 있었습니다. 그는 결코 놀란 것이 아니었으며, 진리가 언젠가 증명될 것이라는 점은 그에게 있어 자명한 것이었습니다. 1999년에는 크리스토프 브뢰이, 브라이언 콘래드, 프레드 다이아몬드, 리처드 테일러 등에 의해 모든 타원 곡선에 대해 타니야마-시무라 추측이 완전히 증명되었고, ‘모듈러성 정리’라는 확고한 정리가 되었습니다.
6. 시무라 다양체: 산술 기하학의 새로운 지평
타니야마-시무라 추측의 그늘에 가려지기 쉽지만, 전문적인 수학의 세계에서 시무라 고로의 이름을 더욱 부동의 것으로 만들고 있는 것이 ‘시무라 다양체’ (Shimura Varieties) 이론입니다.
6.1 복소곱셈론의 고차원화
19세기 수학자 크로네커는 허수곱셈(복소곱셈)을 갖는 타원 곡선의 등분점을 이용하여 허이차체의 모든 아벨 확대를 구성할 수 있음(크로네커의 청춘의 꿈)을 보였습니다. 시무라는 이를 고차원 아벨 다양체로 일반화하는 장대한 프로젝트에 몰두했습니다.
그는 환원 대수군과 에르미트 대칭 영역을 이용하여 모듈러 곡선의 고차원 유사물인 거대한 기하학적 대상을 구성했습니다. 이것이 ‘시무라 다양체’입니다. 시무라 다양체는 정수론, 대수 기하학, 표현론이 교차하는 극히 풍요로운 구조를 가지고 있습니다.
6.2 현대 수학에서 시무라 다양체의 위치
현재 시무라 다양체는 로버트 랭글랜즈(Robert Langlands)가 제창한 ‘랭글랜즈 프로그램’에서 중심적인 역할을 수행하고 있습니다. 갈루아 군의 표현과 보형 표현을 결부시키는 이 장대한 프로그램에서 시무라 다양체는 그 대응 관계를 기하학적으로 실현하기 위한 불가결한 무대가 되고 있습니다. 시무라의 선견지명은 그가 구축한 이론이 수십 년 후 수학 발전의 기반이 되고 있다는 점에서도 증명됩니다.
7. 고고한 수학자의 맨얼굴: 그 철학과 미학
7.1 타협을 허용하지 않는 엄격한 자세
시무라 고로는 수학에 대해 지극히 엄격하고 타협을 허용하지 않는 자세를 관철했습니다. 그는 자신의 논문이나 저서에서 애매한 표현이나 불완전한 증명을 철저히 배제했습니다. 또한 다른 수학자의 실수나 불충분한 점에 대해서도 가차없는 비판을 가할 때가 있었고, 그 엄격함 때문에 그를 두려워하는 수학자도 적지 않았습니다.
그러나 그 엄격함은 자기 자신을 향한 것이기도 했습니다. 그는 “수학은 아름다워야 한다"는 강한 신념을 가지고 있었으며, 추한 증명이나 인위적인 이론을 싫어했습니다. 자연스러운 아름다움과 절대적인 진리를 추구하는 자세가 그의 수학의 근저에 있었습니다.
7.2 이마리 도자기와 문학에 대한 조예
수학의 엄격한 세계에서 벗어났을 때, 시무라는 고미술, 특히 이마리 도자기 의 열렬한 수집가이자 연구자이기도 했습니다. 그는 이마리 도자기에 관한 전문 서적을 영어로 집필할 정도로 깊은 지식을 가지고 있었으며, 거기에 깃든 일본의 전통적인 미의식을 사랑했습니다.
또한 일본 문학이나 중국 고전에도 정통하여 그의 글에는 깊은 교양과 풍부한 어휘가 곳곳에 수놓아져 있습니다. 그의 논리적이고 세련된 사고는 이러한 문학과 예술에 대한 깊은 이해가 뒷받침하고 있었는지도 모릅니다.
7.3 『기억의 절그림』이 말하는 것
만년에 출판된 자전적 에세이 『기억의 절그림』에서는 그의 날카로운 지성과 때때로 보여주는 유머, 그리고 그가 사랑했던 사람들(특히 타니야마 유타카)에 대한 깊은 애정이 솔직하게 서술되어 있습니다. 이 책을 읽으면 단순한 ‘엄격한 수학자’라는 이미지를 넘어선, 인간 시무라 고로의 복잡하고 풍요로운 내면을 알 수 있습니다.
8. 맺음말: 시무라 고로가 남긴 빛
2019년 5월 3일, 시무라 고로는 미국 뉴저지주에서 89세의 생애를 마감했습니다. 그가 세상을 떠난 후에도 그의 이름은 ‘타니야마-시무라 추측’이나 ‘시무라 다양체’로서 수학의 역사에 영원히 새겨져 있습니다.
전후의 불탄 들판에서 출발하여 오직 자신의 지성과 강인한 의지만을 무기로 세계 수학의 정점에 올랐던 시무라 고로. 그의 생애는 진리를 탐구하는 인간의 정신이 얼마나 숭고하며, 얼마나 위대한 것을 만들어낼 수 있는지를 보여줍니다.
정수론의 미해결 문제에 도전하는 현대의 수학자들은 지금도 여전히 시무라 고로가 개척한 광활한 대지 위를 걷고 있습니다. 그가 밝힌 수학의 빛은 앞으로도 오랫동안, 그리고 눈부시게 빛날 것입니다.