서론: 양자역학이라는 인식론적 혁명

양자역학은 인류의 지성이 도달한 가장 성공적인 물리 이론 중 하나이다. 반도체, 레이저, MRI, 나아가 현대의 양자 컴퓨터에 이르기까지 우리 현대 사회의 기술적 기반은 양자역학의 수리 위에 성립되어 있다. 그러나 그 압도적인 실용적 성공의 이면에서, 양자역학이 “현실(실재)이란 무엇인가"에 대해 우리에게 들이미는 철학적, 인식론적 질문은 탄생 후 1세기가 지난 현재에도 여전히 깊은 논쟁의 대상이 되고 있다.

이 논쟁의 중심에 우뚝 솟아 있는 이가 덴마크의 물리학자 닐스 보어(Niels Bohr, 1885–1962)이며, 그가 주도한 ‘코펜하겐 해석’이다. 고전 물리학이 전제로 삼았던 “관측자와 독립적으로 존재하는 객관적 실재"라는 소박한 유물론적 묘사는 양자역학의 미시 세계에서는 완전히 파탄난다. 보어는 파동과 입자의 이중성이라는 언뜻 모순되어 보이는 현상을 통합하기 위해 ‘상보성 원리’를 제창하고, 관측 장치와 측정 대상의 불가분성을 주장했다.

본고에서는 보어의 상보성 원리가 어떻게 탄생했고, 아인슈타인과 벌였던 세기의 대논쟁 속에서 어떻게 단련되었으며, 현대의 양자 정보 이론이나 과학 철학에 어떤 유산을 남겼는지를 지극히 상세하고 학술적인 시각에서 철저하게 해명해 나갈 것이다. 이는 단순한 물리학사의 회고가 아니라, “우리가 세계를 인식한다는 것은 어떤 것인가"라는 인식론의 근원을 향한 여행이다. 자연의 심연에 숨겨진 진실을 찾아 보어와 아인슈타인이 펼친 지적 격투를 풀어보자.

제1장: 양자역학 창성기의 폭풍

1.1 고전 물리학의 한계와 보어의 원자 모형

19세기 말부터 20세기 초에 걸쳐 고전 역학과 고전 전자기학은 수많은 “설명할 수 없는 현상"에 직면해 있었다. 흑체 복사의 스펙트럼 문제(자외선 파탄), 광전 효과, 그리고 무엇보다도 원자의 안정성이다. 어니스트 러더퍼드가 1911년에 제창한 태양계형 원자 모형은 중심에 양전하를 띠는 무거운 원자핵이 있고, 그 주위를 음전하를 띠는 가벼운 전자가 공전한다는 것이었다. 그러나 고전 전자기학(맥스웰 방정식)의 법칙에 따르면, 원운동 등 가속도 운동을 하는 전하는 반드시 전자기파를 방출(제동 방사)하여 에너지를 잃는다. 계산에 따르면 전자는 10의 마이너스 11승 초라는 순식간에 원자핵으로 추락해 버린다는 치명적인 결함을 안고 있었다. 우리 몸이 안정적으로 존재하고 있다는 것 자체가 고전 물리학에 대한 강렬한 반증이었다.

이 심각한 위기를 구한 것이 1913년 닐스 보어에 의한 ‘보어의 원자 모형’이다. 보어는 막스 플랑크의 양자 가설(에너지의 양자화)과 알베르트 아인슈타인의 광양자 가설을 대담하게 도입하여 다음의 획기적인 두 가지 가정을 세웠다.

정상 상태의 가정: 전자는 특정한 이산적인 에너지 상태(궤도)에만 존재할 수 있으며, 이 상태에 있는 한 전자는 가속도 운동을 하고 있어도 전자기파를 방출하지 않는다. 이 허용된 궤도는 각운동량 $L$ 이 플랑크 상수 $\hbar = h/2\pi$ 의 정수배가 된다는 양자 조건 $L = mvr = n\hbar$ 에 의해 결정된다.
진동수 조건: 전자가 어떤 정상 상태(에너지 $E_i$)에서 다른 정상 상태(에너지 $E_f$)로 전이(이를 ‘양자 도약’이라 부름)할 때만 그 에너지 차이와 동일한 에너지를 갖는 광자를 방출하거나 흡수한다. 즉, $E_i - E_f = h\nu$ ($\nu$는 빛의 진동수)이다.

보어의 이 이론은 수소 원자의 발머 계열(가시광선 영역의 발광 스펙트럼)이나 뤼드베리 상수를 경이적인 정밀도로 이론적으로 도출해 내며 물리학계에 충격을 주었다. 그러나 이 시점에서의 보어 모형은 고전 역학의 연속적인 공간 궤도 틀에 억지로 불연속적인 양자 조건을 기워 붙인 ‘전기 양자론’이라 불리는 과도기적인 것이었으며, 다전자 원자로의 확장이나 스펙트럼선의 강도 분포를 설명할 수 없다는 한계가 있었다. 보다 깊고 보편적인 이론의 구축이 시급한 과제였다.

1.2 하이젠베르크의 행렬 역학과 비가환 대수

1925년, 양자역학은 극적인 패러다임 전환을 맞이한다. 보어의 연구소에서 연구를 거듭하던 젊은 천재 베르너 하이젠베르크는 “관측 불가능한 전자의 궤도"라는 시각적, 고전적인 개념을 물리학에서 완전히 추방한다는 과격한 결단을 내렸다. 그는 실제로 관측 가능한 물리량(스펙트럼선의 진동수와 전이 확률의 진폭)만을 기초로 하여 전혀 새로운 역학을 구축한 것이다.

막스 보른과 파스쿠알 요르단의 협력을 얻어 완성된 이 이론은 ‘행렬 역학(Matrix mechanics)‘이라 불렸다. 여기서 물리량(위치 $x$ 와 운동량 $p$)은 단순한 실수가 아니라 무한 차원의 행렬(또는 연산자)로 취급된다. 그리고 이 역학의 가장 충격적인 특징은 위치와 운동량의 곱셈 순서를 바꾸면 결과가 달라진다는 ‘비가환성(Non-commutativity)‘이었다.

$$ xp - px = i\hbar $$

이 언뜻 보기에 기묘한 교환 관계야말로 양자 세계를 지배하는 궁극적인 법칙이며, 훗날 불확정성 원리를 이끌어내는 수학적 기반이 된다. 하이젠베르크의 이론은 시각적인 이미지를 일절 거부하고, 순수한 대수적 관계성만으로 자연을 기술하려는 것이었다.

1.3 슈뢰딩거의 파동 역학과 그 좌절

행렬 역학의 난해하고 추상적인 수학에 물리학자들이 당혹스러워하는 가운데, 1926년에 에르빈 슈뢰딩거는 전혀 다른 접근법을 제시했다. 그는 루이 드 브로이가 제창한 “물질파(전자도 파동으로서의 성질을 가진다)” 개념을 발전시켜, 물질파가 따라야 할 편미분 방정식, 즉 ‘슈뢰딩거 방정식’을 도출한 것이다.

$$ i\hbar \frac{\partial \psi(x,t)}{\partial t} = \left[ -\frac{\hbar^2}{2m}\nabla^2 + V(x) \right] \psi(x,t) $$

이 ‘파동 역학(Wave mechanics)‘은 물리학자들에게 친숙한 미분 방정식을 사용하여 수소 원자의 에너지 준위를 행렬 역학보다 훨씬 더 명쾌하게 도출해 보였다. 훗날 슈뢰딩거 자신과 폴 디랙에 의해 행렬 역학과 파동 역학이 수학적으로 완전히 등가임이 증명되었다.

슈뢰딩거는 당초 이 파동함수 $\psi$ 가 현실의 3차원 공간에서 전자의 전하 밀도의 파동(파속)을 나타낸다는 ‘실재론적 해석’을 시도했다. 그는 양자 도약이라는 불연속적이고 기분 나쁜 개념을 혐오했으며, 자연을 다시 연속적이고 결정론적인 파동의 역학으로 되돌릴 수 있을 것이라 기대했던 것이다. 그러나 이 시도는 실패로 끝난다. 계산에 따르면 전자를 국재화된 파속으로 표현하더라도, 시간이 지남에 따라 파속은 공간 전체로 확산되어 버린다는 사실이 판명되었기 때문이다. 입자로서의 전자가 공간에 퍼져 소멸해 버리는 것은 실험 사실에 반하는 것이었다.

1.4 보른의 확률 해석과 인과율의 붕괴

슈뢰딩거의 파동함수 $\psi$ 를 어떻게 해석해야 할까. 이 질문에 결정적인 해답을 준 것이 1926년 막스 보른에 의한 ‘확률 해석(Born’s rule)‘이다.

보른은 파동함수 자체는 직접 관측할 수 없는 복소수의 파동(확률 진폭)이며, 그 절대값의 제곱 $|\psi(x, t)|^2$ 가 시간 $t$ 에 위치 $x$ 에서 입자를 발견할 ‘확률 밀도’를 나타낸다고 제창했다.

$$ P(x,t) = |\psi(x,t)|^2 = \psi^*(x,t)\psi(x,t) $$

이 해석은 물리학의 패러다임을 근본부터 뒤엎는 것이었다. 고전 물리학을 지배하던 “초기 조건과 운동 방정식이 완전히 정해지면, 미래의 상태는 일의적으로 결정된다"는 결정론적 인과율(라플라스의 악마)은 붕괴되었고, 자연의 가장 깊은 곳에는 “근원적인 확률(객관적 확률)“이 내재되어 있음이 밝혀진 것이다. 전자가 어디에 나타날지는 오직 신만이 아는 주사위 눈에 맡겨져 있다. 이 확률적이고 비결정론적인 세계관이야말로 보어를 중심으로 하는 코펜하겐 학파 철학의 기초가 되었으며, 동시에 아인슈타인 등의 거센 저항을 불러일으키는 불씨가 되었다.

제2장: 상보성 원리(Complementarity)의 탄생

2.1 1927년 코모 호수 회의에서의 선언

양자역학의 수학적 정식화(행렬 역학과 파동 역학)가 완성되어 가던 1927년 가을, 이탈리아 코모 호숫가에서 열린 알레산드로 볼타 서거 100주년 기념 국제 물리학회 회의에서 보어는 마침내 ‘상보성 원리(Complementarity principle)‘를 공식적으로 선언했다. 이는 양자역학의 철학적, 인식론적 기반을 확립하는 기념비적인 강연이었다.

보어가 직면하고 있던 가장 큰 난제는 “파동과 입자의 이중성(Wave-particle duality)“이라는 역설이다. 빛이나 전자는 어떤 실험(예를 들어 이중 슬릿 실험)에서는 간섭 무늬를 만드는 연속적인 ‘파동’으로 행동하고, 다른 실험(예를 들어 광전 효과나 콤프턴 산란)에서는 에너지와 운동량이 국재화된 덩어리인 ‘입자’로 행동한다. 고전적인 직관에서 볼 때 공간 전체로 연속적으로 퍼지는 파동과, 한 점에 국재하는 입자는 논리적으로 양립할 수 없는 완전히 배타적인(mutually exclusive) 개념이다.

당시의 물리학자들은 전자가 사실 파동인지, 아니면 입자인지라는 양자택일의 질문에 괴로워하고 있었다. 그러나 보어는 이 역설에 대해 어느 한쪽으로 환원하는 것이 아니라, 양자의 대립 그 자체를 자연의 심오한 성질로 받아들이는 코페르니쿠스적 전환을 이루어냈다.

2.2 상보성의 논리 구조와 철학적 함의

상보성 원리의 핵심적인 주장은 다음과 같다.

“미시 세계의 현상을 온전히 기술하기 위해서는, 고전적으로는 서로 배타적인 두 가지 개념(파동과 입자, 혹은 위치와 운동량)이 사실 상호 보완적인(complementary) 것으로 요구된다.”

보어에 따르면 파동의 묘사와 입자의 묘사는 결코 동시에 하나의 대상에 적용되지 않는다. 어떤 묘사가 나타날지는 “우리가 어떤 실험 장치를 선택하는가"에 전적으로 의존한다. 간섭 무늬를 측정하는 장치를 구성하면 파동으로 나타나고, 궤적을 측정하는 장치를 구성하면 입자로 나타난다. 즉, 자연은 그 “전체로서의 객관적인 모습"을 단번에 우리에게 보여주는 일이 결코 없으며, 우리의 물음(거시적인 실험적 배치)에 응답하여 그 측면 중 하나만을 잘라내어 보여주는 것이다.

이 사상은 훗날 물리학의 틀을 넘어 생물학이나 심리학, 나아가 동양 철학(음양 사상)과의 유사성으로도 이야기되는 심오한 인식론이었다. 보어 자신도 훗날 덴마크 왕실로부터 코끼리 훈장을 받았을 때 자신의 문장으로 태극도(음양의 상징)를 선택하고, “Contraria sunt complementa”(대립하는 것은 상호 보완적이다)라는 라틴어 명문을 새겼다.

2.3 관측 장치의 고전성 요청과 불가분성(Indivisibility)

보어 사상의 가장 혁명적이고 난해한 부분은 “관측 장치의 고전적 기술"에 대한 요청과 “관측 장치와 측정 대상의 불가분성"이다.

우리 인간은 거시적인 고전 세계의 거주자이다. 우리가 측정 결과를 인식하고, 기억하고, 다른 과학자와 객관적인 언어로 소통하기 위해서는 어쩔 수 없이 “시계”, “자”, “위치”, “운동량"과 같은 고전 물리학의 개념과 언어를 사용할 수밖에 없다. 보어는 “어떠한 양자역학적 실험이라도 그 결과에 대한 기술은 고전적인 용어에 의해 이루어져야 한다"고 강력히 주장했다.

그러나 일단 특정한 관측 장치(예를 들어, 전자의 위치를 엄밀하게 측정하기 위한 고해상도 감마선 현미경)를 설정하면, 관측 장치(거시)와 대상(미시) 사이에는 양자역학적인 상호작용이 발생한다. 이 상호작용은 플랑크 상수 $h$ 가 0이 아닌 유한한 값을 가지기 때문에, 통제 불능하고 비가역적인 ‘교란’을 일으킨다. 이로 인해 관측 장치와 측정 대상은 더 이상 독립적인 두 시스템으로 분리될 수 없으며, 하나의 불가분한 “전체로서의 현상(whole phenomenon)“을 형성한다.

보어에게 “관측되지 않을 때 전자 그 자체가 어떤 상태에 있는가"라고 묻는 것은 과학적으로 무의미한 질문이었다. 물리학이 말할 수 있는 유일하게 의미 있는 대상은 “특정한 거시적 실험 장치와의 상호작용을 포함하는, 불가분한 현상 전체"인 것이다. 실재는 관측과 분리되어 존재하지 않는다. 여기서 고전적인 실재론은 완전히 산산조각 났다.

제3장: 아인슈타인-보어 대논쟁

3.1 제5차 솔베이 회의(1927년): 거인들의 격돌과 신의 주사위

코펜하겐 해석이 확립되어 가던 같은 시기, 이에 강력하게 이의를 제기한 이가 바로 알베르트 아인슈타인이었다. 아인슈타인은 광양자 가설을 통해 양자론의 초석을 다진 장본인이면서도, 양자역학의 확률적 해석과 반실재론적 귀결을 단호히 거부했다.

“나는 신이 우주를 상대로 주사위 놀이를 하고 있다고는 도저히 믿을 수 없다(God does not play dice with the universe).”

그의 이 유명한 말은 엄밀한 인과율과, 관측자로부터 독립된 객관적 물리적 실재의 존재를 옹호하는 그의 깊은 철학적 신념의 표출이었다. 아인슈타인은 양자역학이 실험 결과를 올바르게 예측한다는 점은 인정했지만, 그것은 자연에 대한 “불완전한 기술(불완전한 통계적 이론)“에 불과하며, 그 이면에는 결정론적인 진정한 이론이 숨겨져 있을 것이라고 생각했다.

1927년 브뤼셀에서 열린 제5차 솔베이 회의에서 아인슈타인과 보어 사이에는 과학사에 찬란히 빛나는 대논쟁의 막이 올랐다. 회의의 공식 세션 이면에서 그들은 아침의 호텔 식당부터 밤의 라운지에 이르기까지 격렬한 사고 실험의 공방을 펼쳤다.

아인슈타인은 매일 아침 코펜하겐 해석의 모순(특히 하이젠베르크의 불확정성 원리의 위반)을 보여주는 교묘하고 정교한 사고 실험을 제시하여 보어와 그의 젊은 제자들(하이젠베르크, 파울리, 디랙 등)을 궁지로 몰아넣었다. 그러나 보어는 하루 종일 필사적으로 고민하며 때로는 절망적인 표정을 지으면서도, 그날 저녁 식사 때면 반드시 아인슈타인의 사고 실험에 숨겨진 결함을 찾아내어 불확정성 원리와 상보성의 정당성을 완벽하게 증명해 보이곤 했다.

3.2 가동식 이중 슬릿과 반동 운동량

아인슈타인이 제시한 대표적인 사고 실험 중 하나가 스크린에 고정되지 않은 ‘가동식 제1슬릿’을 이용한 이중 슬릿 실험이다.

아인슈타인의 주장: 일반적인 이중 슬릿 실험에서는 전자가 슬릿 A와 슬릿 B 중 어느 곳을 통과했는지(경로 정보)를 알 수 없기 때문에 스크린에 파동의 간섭 무늬가 생긴다. 그러나 제1슬릿(단일 슬릿)을 용수철에 매달아 가동식으로 만든다. 전자가 제1슬릿을 통과하여 위쪽의 슬릿 A로 향하는가, 아니면 아래쪽의 슬릿 B로 향하는가에 따라 전자가 제1슬릿에 가하는 ‘반동 운동량(킥)‘의 방향이 달라진다. 따라서 전자 통과 전후의 제1슬릿의 운동량을 정밀하게 측정하면 전자가 A와 B 중 어느 경로를 지났는지 완전히 특정할 수 있다. 경로가 특정될 수 있다면 전자는 ‘입자’로 행동한 것이 된다. 그러나 동시에 슬릿 자체의 구조는 변하지 않았으므로 스크린 위의 간섭 무늬(파동의 성질)도 계속 관찰되어야만 한다. 이는 파동과 입자의 묘사가 동시에 성립함을 의미하며, 상보성 원리를 타파한다!

보어의 반론: 보어는 즉각 측정 장치인 가동식 슬릿 자체도 물리적 실체이며 양자역학의 법칙(불확정성 원리)을 따라야 한다고 지적했다. 슬릿의 반동 운동량 $p$ 를 측정하여 경로를 특정하기 위해서는 운동량의 변화 $\Delta p$ 를 극히 높은 정밀도로 측정할 필요가 있다. 그러나 불확정성 원리 $\Delta x \Delta p \ge \hbar/2$ 에 의해 운동량 $p$ 를 정밀하게 측정하려 하면 할수록 슬릿의 위치의 불확정성 $\Delta x$ 가 증대된다. 슬릿의 초기 위치가 불확정해지면, 제1슬릿에서 슬릿 A, B를 거쳐 스크린에 이르기까지의 ‘광경로 차이’도 불확정해진다. 이 광경로 차이의 불확정성이 파장 $\lambda$ 의 척도에 이르는 순간, 간섭 무늬의 마루와 골이 겹치게 되고, 결과적으로 스크린 위의 간섭 무늬는 완전히 흐려져 사라져 버린다(균일한 분포가 된다). 즉, “경로 정보(입자성)를 얻기 위한 장치"를 짜 넣는 순간, “간섭 무늬(파동성)“는 필연적으로 파괴된다. 자연은 결코 모순을 허용하지 않는다. 상보성 원리는 완벽하게 지켜지고 있었던 것이다.

3.3 제6차 솔베이 회의(1930년): 보어의 기적적인 반론과 ‘빛의 상자’

1930년의 제6차 솔베이 회의에서 아인슈타인은 더욱 세련되고 결정적인 사고 실험 ‘빛의 상자(Photon Box)‘를 들고 나왔다. 이는 시간과 에너지의 불확정성 관계 $\Delta E \cdot \Delta t \ge \hbar/2$ 를 직접적으로 깨뜨리기 위한 무서운 함정이었다.

아인슈타인의 제안: 내부에 광자를 채우고, 정밀한 시계로 제어되는 셔터를 가진 상자를 준비한다. 상자의 무게를 용수철저울로 극히 정확하게 측정해 둔다. 지정된 시간 $t$ 에 시계가 작동하여 셔터가 순식간에 열리고, 하나의 광자가 상자에서 튀어나온다. 그 후 다시 상자의 무게를 측정한다. 특수 상대성 이론에서의 질량과 에너지의 등가성 공식 $E=mc^2$ 에 따르면, 상자의 질량 감소분 $\Delta m$ 을 측정하면 방출된 광자의 에너지 변화 $\Delta E = \Delta m c^2$ 을 엄밀하게 계산할 수 있다. 한편 광자가 방출된 시간은 상자 내부의 시계에 의해 엄밀하게 결정되어 있으므로 시간의 불확정성 $\Delta t$ 는 0으로 만들 수 있다. 따라서 에너지와 시간 양쪽 모두를 임의의 정밀도로 동시에 결정할 수 있으며 불확정성 원리는 파탄난다. 양자역학은 불완전하다!

이 훌륭한 논의에 보어는 극심한 충격을 받고 할 말을 잃었다. 회의 참가자인 레옹 로젠펠트는 당시의 모습을 다음과 같이 생생하게 기록하고 있다. “보어는 창백해졌고 매우 흥분해 있었다. 아인슈타인이 옳을 리가 없다고 중얼거리며 누구에게나 설득하러 돌아다녔다. 하지만 그에게는 반론의 실마리조차 보이지 않았다. 대조적으로 아인슈타인은 조용한 승리의 미소를 지으며 키가 크고 당당하게 걷고 있었다.”

그러나 다음 날 아침, 밤새워 고민한 보어는 역사에 남을 기적적인 반론을 제시한다. 그가 사용한 무기는 아이러니하게도 아인슈타인 자신이 만들어낸 최고 걸작 ‘일반 상대성 이론’이었다.

보어의 기적적 반론의 논리 구성:

상자의 질량을 정밀하게 측정하기 위해서는 용수철저울 지침의 변위 $q$ 를 측정할 필요가 있다. 이 측정을 수행하기 위해서는 상자 자체를 중력장 속에서 지탱해야만 하며, 상자에는 운동량 $p$ 의 불확정성 $\Delta p$ 와 위치의 불확정성 $\Delta q$ 가 생긴다. 이들은 하이젠베르크의 불확정성 원리 $\Delta q \Delta p \ge \hbar$ 를 따른다.
중력장(가속도 $g$) 속에서 상자가 변위 $q$ 만큼 위아래로 움직이면, 일반 상대성 이론(등가 원리)에 따라 중력 퍼텐셜이 변화한다. 중력 퍼텐셜의 변화는 상자 속에 있는 ‘시계의 빠르기(시간의 흐름)‘를 변화시킨다(중력 적색편이).
이 중력에 의한 시간 지연의 불확정성 $\Delta T$ 는 측정에 걸리는 시간 $T$ 를 이용하여 $\Delta T = T \frac{g \Delta q}{c^2}$ 로 표현된다.
한편 질량의 불확정성 $\Delta m$ 은 충격량의 관계로부터 $\Delta p \approx g T \Delta m$ 로 평가할 수 있다.
따라서 위치의 불확정성은 $\Delta q = \frac{c^2 \Delta T}{g T}$ 가 되고, 운동량의 불확정성은 $\Delta p = g T \Delta m = g T \frac{\Delta E}{c^2}$ 가 된다.
이들을 위치와 운동량의 불확정성 관계 $\Delta q \Delta p \ge \hbar$ 에 대입하면, $$ \left(\frac{c^2 \Delta T}{g T}\right) \left(g T \frac{\Delta E}{c^2}\right) \ge \hbar $$ $$ \Delta T \Delta E \ge \hbar $$ 놀랍게도 아인슈타인 자신의 일반 상대론 방정식을 도입함으로써 시간과 에너지의 불확정성 관계가 완벽하게 도출되어 버린 것이다!

아인슈타인은 자신의 일반 상대론을 이용해 스스로의 사고 실험이 논파된 것에 깊은 감명을 받았고, 마침내 양자역학의 “무모순성(내부 일관성)“을 인정하기에 이르렀다. 그러나 그는 양자역학이 자연에 대한 “완전한 기술"이라는 것에는 평생 동의하지 않았으며, 그 후 1935년의 EPR 논문(Einstein-Podolsky-Rosen 역설)을 통해 ‘양자 얽힘(엔탱글먼트)‘의 비국소성을 지적하며 논쟁의 주전장을 더욱 깊은 차원으로 옮겨가게 된다.

제4장: 코펜하겐 해석의 수학적, 개념적 골격

보어에 의한 철학적인 상보성의 논의는 그 후 존 폰 노이만과 폴 디랙 등에 의해 엄밀한 힐베르트 공간상의 수학적 정식화가 주어지며 소위 ‘표준적인 코펜하겐 해석’으로 확립되어 갔다.

4.1 폰 노이만의 투영 공준과 파속의 수축

1932년 존 폰 노이만은 명저 『양자역학의 수학적 기초』에서 양자계의 시간 발전에는 근본적으로 다른 두 가지 과정(역학 법칙)이 존재한다고 정식화했다.

$$ i\hbar \frac{\partial}{\partial t} |\psi(t)\rangle = H |\psi(t)\rangle $$
제2종 과정(투영 측정, $R$과정): 관측이 이루어진 순간 상태 벡터는 관측된 물리량(에르미트 연산자)의 고유 상태(고유 벡터) $|a_i\rangle$ 중 어느 하나로 불연속적이고 비가역적이며 확률적으로 ‘수축(점프)‘한다. 이를 파속의 수축(collapse of the wave function) 또는 투영 공준이라 부른다. 상태가 $|a_i\rangle$ 로 수축할 확률은 보른의 규칙에 의해 $P_i = |\langle a_i | \psi \rangle|^2$ 로 주어진다.

이 “파속의 수축"이라는 불연속적인 변화야말로 양자역학에 있어서 최대의 수수께끼이며 악명 높은 ‘측정 문제(Measurement Problem)‘의 핵심이다. 슈뢰딩거 방정식이라는 선형적인 방정식의 틀 안에서는 결코 이 비선형적인 ‘수축’을 도출해 낼 수 없다. 수축은 이론의 내부에서 자연스럽게 도출되는 것이 아니라 외부에서 요청된 임시방편(ad hoc)적인 가정에 불과한 것이 아닐까. 측정기도 또한 원자들의 집합인 이상 슈뢰딩거 방정식을 따라야 하는데, 어째서 측정의 순간에만 다른 물리 법칙(제2종 과정)이 발동하는 것일까. 이 역설이 물리학자들을 영원히 괴롭히게 된다.

4.2 보어의 절단(Bohr’s Cut)

양자계(미시)는 슈뢰딩거 방정식을 따라 중첩 상태가 되지만, 관측 장치(거시)는 고전 물리학에 따라 명확한 단일 상태를 갖는다. 그렇다면 이 세계 안에서 도대체 “어디서부터가 양자계이고 어디서부터가 고전적인 관측 장치인가”. 이 경계선을 긋는 문제는 ‘보어의 절단(Bohr’s cut)’ 또는 ‘하이젠베르크 컷’이라 불린다.

보어 등의 입장에 따르면 이 절단을 어디에 그을지는 객관적인 물리적 필연성에 의해 일의적으로 정해지는 것이 아니라 어느 정도 ‘임의적(mobile)‘이다. 측정 대상인 전자와 현미경 사이에 절단을 그어 현미경을 고전계로 다루어도 좋고, 절단을 옮겨 현미경까지를 양자계(중첩 상태)로 하고 현미경의 수치를 읽는 컴퓨터와 인간 사이에 절단을 그어도 좋다. 폰 노이만은 수학적으로 절단을 어디로 이동시켜도 예측되는 관측 결과의 확률은 완전히 일치함(정합성)을 증명했다.

중요한 것은 물리적 현상을 언어로 기술하기 위해서는 “반드시 어딘가에 인위적으로 절단을 긋고 관찰하는 주체(고전 측)와 관찰되는 객체(양자 측)를 분리해야만 한다"는 인식론적인 요청이다. 세계 그 자체에 절대적인 경계가 있는 것은 아닌 것이다.

4.3 위그너의 친구 문제와 관측자의 의식

폰 노이만의 “절단의 임의성"을 극한까지 밀어붙인 이가 유진 위그너이다. 보어의 절단을 관측 장치에서 컴퓨터, 인간의 망막, 시신경으로 점점 관측자의 내면을 향해 옮겨가면 최종적으로 ‘절단’은 인간의 뇌, 혹은 비물리적인 ‘의식(Mind)‘에까지 도달할 수밖에 없다.

위그너는 다음과 같은 사고 실험을 제안했다(위그너의 친구). 폐쇄된 실험실 안에서 위그너의 ‘친구’가 양자계(예를 들어 스핀 측정)를 실행한다. 실험실 밖에 있는 위그너가 보면 실험실 안의 친구 또한 원자들의 집합체이므로 측정 직후의 시점에서는 “친구가 스핀 업을 본 상태"와 “친구가 스핀 다운을 본 상태"의 거대한 양자 얽힘(엔탱글먼트) 상태, 즉 중첩 상태에 있어야 한다. 파속의 수축은 도대체 언제 일어나는가? 친구의 의식이 결과를 인식했을 때인가? 아니면 위그너가 실험실 문을 열고 친구에게 결과를 물어, 그것을 위그너의 ‘의식’이 인식한 순간에 처음으로 우주 전체가 수축하는 것인가?

이 ‘폰 노이만-위그너 해석’은 물리학에 ‘인간의 의식’이라는 지극히 주관적이고 비물리적이며 오컬트적인 요소를 도입하는 것으로, 많은 물리학자들로부터 거센 거부를 받았다. 그러나 이는 코펜하겐 해석이 내포하는 “관측자에 대한 의존성"이라는 문제를 가장 첨예한 형태로 부각시킨 것이며, 현재의 양자 기초론에서도 중요한 역설로서 계속 논의되고 있다.

제5장: 코펜하겐 해석에 대한 도전자들

코펜하겐 해석이 오랫동안 물리학계의 정통(오소독스)으로 군림하고 “Shut up and calculate(입 닥치고 계산이나 해)“라는 실용주의가 지배하는 한편, 그 철학적인 애매함이나 ‘파속의 수축’의 부자연스러움에 깊이 절망한 물리학자들은 다양한 대체 해석이나 대체 이론을 구축해 왔다.

5.1 드 브로이-봄의 파일럿 파동 이론(숨은 변수 이론)

루이 드 브로이가 제창하고 1952년에 데이비드 봄이 세련화시킨 이 이론은 ‘숨은 변수 이론(Hidden-variable theory)‘의 대표격이다. 이 이론에서는 세계에는 파동함수뿐만 아니라 확고한 궤도를 가진 “현실의 입자(미립자)“가 항상 동시에 존재한다고 생각한다.

$$ Q = -\frac{\hbar^2}{2m} \frac{\nabla^2 R}{R} \quad (\psi = R e^{iS/\hbar}) $$

이 해석에서는 우주는 뉴턴 역학처럼 완전히 결정론적이다. 이중 슬릿 실험에서도 입자는 항상 한쪽 슬릿만을 통과하지만, 파일럿 파동이 양쪽 슬릿을 통과하여 간섭하고 입자의 궤도를 휘게 함으로써 스크린 위에 간섭 무늬를 형성한다. 파속의 수축도 필요 없으며 확률이 나타나는 것은 단지 입자의 초기 위치라는 ‘숨은 변수’를 우리가 정확히 알지 못한다는 무지에서 비롯된 것으로 여겨진다.

그러나 이 이론을 성립시키기 위해서는 무거운 대가를 치러야 한다. 양자 퍼텐셜 $Q$ 는 거리에 따라 감쇠하지 않기 때문에 우주 끝에 있는 입자의 상태 변화가 순식간에 다른 입자의 궤도에 영향을 미친다. 즉, 강렬한 ‘비국소성(non-locality)‘을 본질적으로 받아들여야만 한다. 또한 특수 상대성 이론과의 정합성을 맞추는 것이 지극히 어렵다.

5.2 에버렛의 다세계 해석(MWI)

1957년 휴 에버렛 3세는 코펜하겐 해석에서의 가장 큰 약점인 “파속의 수축(제2종 과정)“을 이론에서 완전히 추방한다는 과격하고 아름다운 접근을 취했다. 다세계 해석(Many-Worlds Interpretation: MWI)이다.

에버렛은 우주 전체를 기술하는 하나의 거대한 “보편 파동함수(Universal wave function)“가 존재하며, 그것은 항상 슈뢰딩거 방정식(제1종 과정)만을 따라 결정론적으로 계속 진화한다고 생각했다. 관측이 이루어지면 파속이 수축하는 것이 아니라 관측 대상과 관측자(그리고 환경)가 얽힘(양자 얽힘) 상태가 되어 중첩의 각 성분에 대응하여 세계 전체가 ‘분기(branching)‘한다.

슈뢰딩거의 고양이 사고 실험으로 말하자면 “고양이가 살아 있는 세계"와 “고양이가 죽어 있는 세계” 양쪽이 물리적 실재로서 병행하여 존재하고 분기한다. 각각의 분기 세계에 있는 관측자는 얽힘의 성질로 인해 한쪽 결과밖에 인식할 수 없으며 서로의 세계에 간섭할 수 없다. 다세계 해석은 수학적 정식화가 슈뢰딩거 방정식 단 하나라는 극히 세련된 단순함을 갖는 한편, “관측할 때마다 우주가 무수히 계속 증식한다"는 존재론적 비용이 너무나 거대하다는 철학적인 저항을 항상 받고 있다.

5.3 로저 펜로즈의 객관적 수축 이론(OR)

다세계 해석이 파동함수의 수축을 환영으로 부정하는 반면, “수축은 인간의 관측이나 의식과는 무관하게 순수한 물리적 프로세스로서 객관적으로 일어나고 있다"고 주장하는 것이 객관적 수축 이론(Objective Collapse Theory)이다. 대표적인 것으로 GRW 이론 등이 있다.

그 중에서도 노벨 물리학상 수상자 로저 펜로즈가 제창하는 ‘중력 유도 수축 모델(Diósi-Penrose model)‘은 매우 독특하고 장대하다. 펜로즈에 따르면 질량을 가진 물체가 공간의 서로 다른 위치에 겹쳐서 존재할 때, 그것은 일반 상대성 이론적 관점에서는 “서로 다른 시공간 기하학의 중첩"을 의미한다. 그러나 시공간 구조 자체의 중첩은 지극히 불안정하며 두 상태의 질량 분포 차이에서 생기는 중력 자체 에너지 $E_G$ 에 따라 어떤 일정한 시간 $\tau \approx \hbar / E_G$ 가 경과하면 자발적으로(객관적으로) 하나의 상태로 수축한다. 이는 양자역학과 일반 상대성 이론(양자 중력 이론)의 미완성 통합 문제로 직결되는 심오한 접근법이며 인간의 의식을 펜로즈-하메로프의 미세소관 양자 효과로 설명하려는 시도(Orch OR 이론)와도 이어져 있다.

5.4 양자 결어긋남 이론

1970년대 이후 하인츠 디터 체(Heinz-Dieter Zeh)나 보이치에흐 주레크(Wojciech Zurek) 등의 연구에 의해 ‘양자 결어긋남(Quantum Decoherence)‘의 개념이 확립되었다. 이는 양자계가 진공 속에서 고립되어 있는 것이 아니라 항상 외부 세계의 거대한 환경(광자, 공기 분자, 열욕 등)과 상호작용하고 있음에 주목하는 이론이다.

계가 환경과 상호작용하면 엔탱글먼트가 발생하고, 양자 특유의 “간섭 효과(중첩의 위상 정보)“가 극히 단시간에 환경으로 빠져나가 확산되어 소실되고 만다. 이 결어긋남 현상에 의해 슈뢰딩거의 고양이 같은 거시적인 중첩 상태는 순식간에 간섭성을 잃고 겉보기에는 고전적인 확률 분포(혼합 상태)와 구별할 수 없게 된다. 이를 통해 “왜 우리의 일상 세계는 고전적으로 행동하는가"라는 고전적 극한으로의 이행 문제에 대해 극히 강력하고 정량적인 물리적 설명이 주어졌다.

그러나 주의해야 할 점은 결어긋남 이론은 어디까지나 “간섭항이 소멸한다"는 것(겉보기의 수축)을 설명할 뿐, 복수의 고전적인 가능성 중에서 “어째서 이 특정한 단일 결과가 실현되었는가(Single outcome problem / 측정 문제)“라는 궁극적인 수수께끼 자체를 해결하는 것은 아니라는 점이다. 그러므로 오늘날 결어긋남은 다세계 해석에서 세계의 분기 메커니즘을 설명하기 위해 사용되는 등 다른 해석과 조합하여 운용되는 것이 일반적이다.

제6장: 21세기 보어의 유산과 인식론적 전환

현대의 물리학에서 ‘코펜하겐 해석’이라는 단일하고 명확한 도그마가 존재하는 것은 아니다. 물리학자의 대부분은 실용적인 도구로서 양자역학을 능숙하게 사용하고 있지만 해석에 대해서는 다세계 해석파, 숨은 변수파 등 다양하게 분열되어 있다. 그러나 보어가 제시한 심오한 철학적 직관은 결코 과거의 유물이 된 것이 아니다. 오히려 그것은 형태를 바꾸어 21세기 양자 정보 이론의 최전선에서 소생하고 있다.

6.1 QBism(양자 베이즈주의)

크리스토퍼 푹스 등이 제창하는 QBism(Quantum Bayesianism)은 코펜하겐 해석의 “주관적, 인식론적"인 측면을 현대 정보 이론의 관점에서 철저하게 밀고 나간 접근법이다.

QBism에서 파동함수는 “객관적인 물리적 실재"를 나타내는 것이 전혀 아니다. 그것은 개별 에이전트(관측자)가 자신이 가진 정보에 기초하여 미래의 측정 결과에 대해 품는 “개인적인 신념의 정도(확률 예측)“를 계산하기 위한 사용자 매뉴얼, 혹은 수학적 도구에 불과하다. 관측에 의해 파속이 수축하는 것은 세계에 어떠한 물리적인 변화가 일어났기 때문이 아니라, 에이전트가 측정을 통해 새로운 정보를 얻어 자신의 베이즈 확률(신념)을 업데이트(갱신)했기 때문일 뿐이다.

이 철저한 반실재론적 입장을 취함으로써 위그너의 친구 문제에서의 모순이나 EPR 역설에서의 “비국소적인 작용(기분 나쁜 원격 작용)“의 수수께끼는 완전히 소멸된다. 왜냐하면 갱신되는 정은 에이전트의 머릿속에 있는 정보, 신념뿐이며 공간을 뛰어넘어 물리적 영향이 전파되고 있는 것은 아니기 때문이다. QBism은 “물리학은 자연이 어떠한가가 아니라 우리가 자연에 대해 무엇을 말할 수 있는가이다"라는 보어 사상의 가장 순수하고 급진적인 후계자라 할 수 있다.

6.2 관계론적 양자역학(RQM)

양자 중력 이론의 선구자인 카를로 로벨리가 제창하는 관계론적 양자역학(Relational Quantum Mechanics: RQM) 또한 보어의 상보성과 불가분성 개념을 확장하여 상대화, 관계론화한 것이다.

로벨리는 아인슈타인의 상대성 이론에서 “절대적인 시간이나 공간이 존재하지 않으며 속도나 시간은 항상 관측자에 대한 상대적인 관계이다"라고 했던 것처럼, 양자역학에서도 “절대적인 계의 상태"라는 것은 존재하지 않는다고 주장한다. 어떤 물리계의 상태는 그것과 상호작용하는 다른 물리계(관측자)에 대해서만 상대적으로 정의된다. 따라서 관측자 A에게는 측정이 완료되어 파속이 수축했더라도 그 상호작용을 모르는 다른 관측자 B에게는 계와 관측자 A가 여전히 거대한 중첩 상태에 있을 수 있다. 양자의 기술은 모순되지 않는다. 실재론과 반실재론의 틈바구니에서 실체가 아니라 세계의 그물망 같은 “관계성(relation)” 그 자체를 근본적인 실재로 간주하는, 동양 철학적 울림마저 지닌 접근법이다.

6.3 결어: 보어의 인식론적 전환과 우리의 실재

닐스 보어가 평생을 걸고 탐구한 코펜하겐 해석의 진수는 단순한 양자역학의 수학적 규칙의 약속이 아니라 철학적인 ‘인식론적 전환(Epistemological turn)‘에 있었다.

일찍이 이마누엘 칸트는 『순수 이성 비판』에서 인간이 인식할 수 있는 것은 감각을 통해 구성된 ‘현상’뿐이며 그 이면에 있는 ‘물자체(Ding an sich)‘에는 결코 도달할 수 없다고 했다. 보어의 상보성 원리와 관측 문제에 대한 통찰은 바로 현대 물리학에 있어서의 칸트적 전환이라 할 수 있다. 우리는 미시적인 양자라는 “물자체"를 우리가 일상적으로 사용하는 고전적인 개념(위치, 궤도, 연속성)을 이용하여 직접 묘사하는 것은 결코 불가능하다. 우리에게 허락된 것은 거시적인 관측 장치라는 ‘창문’을 통해 나타나는 단편적인 현상들을 파동과 입자라는 상보적인 논리적 틀 속에서 통합하고 이해하는 것뿐이다.

보어가 남긴 아래의 말은 과학이란 무엇인가, 실재란 무엇인가라는 근본적인 질문에 대한, 인류 사상사상 가장 깊고 또한 겸허한 통찰 중 하나로서 지금도 여전히 빛을 발하고 있다.

“물리학의 과제는 자연이 어떠한지를 발견하는 것이 아니다. 물리학의 과제는 자연에 대해 우리가 무엇을 말할 수 있는지를 발견하는 것이다."(Niels Bohr)

양자역학은 자연이 얼마나 기묘하고 풍요로운지, 그리고 우리 인간의 소박한 직관이 얼마나 한정적인 것인지를 가르쳐 주었다. 코펜하겐 해석을 둘러싼 탐구는 물리학이라는 학문의 틀을 아득히 뛰어넘어, 인간이 이 광대한 우주를 어떻게 인식하고 어떻게 언어로 말할 수 있는가라는 영원한 철학적 사색의 원천으로 계속 남을 것이다. 아인슈타인과의 끝없는 대화를 통해 단련된 보어의 유산은 미래의 과학자들을 향한 마르지 않는 영감으로서 앞으로도 계속 살아 숨 쉴 것이다.

(끝)

닐스 보어와 코펜하겐 해석의 진실: 상보성 원리, 관측 문제, 그리고 물리적 실재의 재정의

'신은 주사위를 던지지 않는다'는 말에 보어는 어떻게 답했는가. 파동과 입자의 상보성, 관측 장치와 대상의 불가분성, 20세기 과학 사상 최대의 전환점.