서론: 행동적 지능과 진정한 ‘이해’ 사이의 심연

현대 거대언어모델(LLM)의 비약적 발전은 앨런 튜링(Alan Turing)이 1950년에 제안한 모방 게임(튜링 테스트)의 기준을 사실상 뛰어넘고 있습니다. AI는 복잡한 법률 분석, 문학 창작, 프로그래밍 코드 작성에 이르기까지 인간과 구분하기 어려운 유창한 자연어를 구사합니다.

그러나 인지과학과 심리철학의 근원적 질문은 여전히 남아 있습니다. “완벽하게 정답을 출력하는 기계는 과연 그 단어의 ‘의미(Semantics)‘를 진정으로 이해하고 있는가?"

1980년 미국 철학자 존 설(John Rogers Searle)은 논문 《마음, 뇌, 프로그램(Minds, Brains, and Programs)》에서 ‘중국어 방(The Chinese Room Argument)’ 사고실험을 제시하며, “구문론(Syntax)만으로는 결코 의미론(Semantics)을 구성하거나 도출할 수 없다”고 역설했습니다.

1. 중국어 방 사고실험의 설계와 논리

존 설이 고안한 사고실험의 구조는 다음과 같습니다:

1. 방 안의 인간: 중국어를 한 글자도 모르는 영어 화자(설 본인)가 밀폐된 방 안에 갇혀 있습니다. 그에게 한자는 단지 무의미한 기하학적 도형(낙서)에 불과합니다.
2. 외부 입력: 방 밖의 원어민들이 벽의 틈으로 중국어로 쓰인 질문지를 넣습니다.
3. 규칙 책: 방 안에는 영어로 작성된 방대한 규칙 매뉴얼이 있습니다. 여기에는 의미 번역이 전혀 없으며, 오직 순수한 형태 매칭 규칙만 적혀 있습니다. (“〇 모양의 기호가 들어오면, 보관함에서 △ 모양의 기호를 꺼내 결합하라.”)
4. 출력: 지침에 따라 기호를 배열한 뒤 배출구로 내보냅니다. 외부의 중국인들은 완벽하고 유창한 답변에 감탄하며, 방 안의 주체가 중국어를 완벽히 구사한다고 확신합니다.

외부 관찰 기준에서 이 방은 튜링 테스트를 완벽히 통과합니다.

설의 핵심 통찰

그렇다면 방 안의 인간은 중국어를 조금이라도 이해하고 있는가? 결코 아닙니다. 그는 단지 규칙에 따라 무의미한 기호를 기계적으로 조작했을 뿐입니다. 컴퓨터의 CPU 역시 메모리의 비트(0과 1)를 명령 집합에 따라 연산할 뿐, 그 비트가 무엇을 의미하는지 전혀 알지 못합니다. 따라서 프로그램을 실행하는 것만으로는 결코 마음에 도달할 수 없습니다.

2. 존 설의 삼단논법과 공리 체계

설은 논증을 다음과 같이 형식화했습니다:

• 공리 1: 컴퓨터 프로그램은 순수하게 형식적(구문론적)이다.
• 공리 2: 인간의 마음은 심적 내용(의미론)을 가진다.
• 공리 3: 구문론은 그 자체로 의미론을 구성하지 않으며, 의미론을 낳기에 충분하지도 않다.
• 공리 4: 뇌는 마음을 일으킨다(Brains cause minds).

결론:

1. 프로그램의 실행 자체는 마음을 갖기에 충분하지 않다 (강한 AI의 부정).
2. 뇌가 마음을 생산하는 방식은 단순한 컴퓨터 프로그램의 실행일 수 없다.
3. 마음을 가질 수 있는 인공물은 뇌와 동등한 생물학적 인과력(Causal powers)을 지녀야 한다.

3. 대표적 반론과 설의 재반론

3.1 시스템 응답 (The Systems Reply)

• 반론: 방 안의 인간은 이해하지 못할지라도, 방, 규칙 책, 기호 보관함 전체로 구성된 시스템 전체가 중국어를 이해하고 있는 것이다.
• 설의 반박: 인간이 규칙 책과 기호 체계를 모두 머릿속에 완벽히 암기했다고 가정하자. 그는 시스템 전체를 자신 안에 내면화했지만, 여전히 중국어를 전혀 이해하지 못한다.

3.2 로봇 응답 (The Robot Reply)

• 반론: 카메라와 모터를 달아 실세계와 물리적으로 상호작용(신체성)하면 기호가 현실과 접지되어 이해가 생겨난다.
• 설의 반박: 로봇의 머릿속에 중국어 방을 넣어도, 카메라 데이터는 단지 숫자의 나열로 방에 들어올 뿐이다. 조작자는 여전히 그 숫자가 무엇을 뜻하는지 모른 채 기호를 조작할 뿐이다.

3.3 뇌 시뮬레이터 응답 (The Brain Simulator Reply)

• 반론: 뇌의 1000억 개 신경세포와 시냅스 발화를 완벽히 시뮬레이션한다면 이해가 생기지 않겠는가?
• 설의 수관 비유: 신경망을 수많은 물파이프와 밸브로 교체하고 배관공이 밸브를 여닫는다고 상상해보라. 거대한 수도 배관망이 중국어를 이해한다고 말할 수 있는가? 시뮬레이션은 실재의 복제가 아니다.

4. 현대 LLM과 기호 접지 문제 (Symbol Grounding Problem)

스티븐 하르나드(Stevan Harnad)가 제안한 기호 접지 문제는 외국어 사전을 순환 참조하는 상황으로 설명됩니다. 기호가 감각운동 경험(Sensorimotor experience)을 통해 현실 세계와 연결되지 않는 한, 무한한 기호의 닫힌 루프 속에서 진정한 의미는 탄생할 수 없습니다.

벤더와 콜러(Bender & Koller, 2020)의 ‘문어 사고실험’이 보여주듯, 순수한 형식(Form)의 확률론적 최적화는 의미(Meaning)를 낳을 수 없습니다. 현대 생성형 AI가 아무리 유창할지라도, 중국어 방의 역설은 진정한 지능과 의식의 본질에 대해 인류에게 가장 근본적인 경종을 울리고 있습니다.

5. 튜링 기계와 형식 의미론의 수학적 직교성

존 설의 논증은 계산 이론과 모델론적 의미론(Model-Theoretic Semantics)을 통해 엄밀하게 정식화할 수 있습니다.

표준 튜링 기계 $M$은 다음과 같이 7개 요소의 튜플로 정의됩니다:

여기서 상태 전이 함수 $\delta$는 순수하게 물리적 기호의 식별자에만 의존합니다:

반면, 언어 표현의 의미론은 해석 구조 $\mathcal{M} = \langle \mathcal{D}, \mathcal{I} \rangle$를 통해 부여됩니다. 여기서 $\mathcal{D}$는 대상 영역(Domain)이며, $\mathcal{I}$는 기호를 대상 영역의 실체나 성질로 사상하는 해석 함수입니다.

계산 이론에서 다음의 불변성 정리가 성립합니다:

기호 집합 $\Gamma$에 대해 외부 관찰자가 어떤 해석을 부여하든 상관없이, 튜링 기계의 기계적 실행 궤적은 단 1비트도 변하지 않습니다. 즉, 계산 프로세스는 의미론적 해석 함수와 완전히 독립(직교)되어 있습니다. 이것이 바로 “구문론은 의미론을 낳을 수 없다"는 설의 핵심 수학적 근거입니다.

6. 생물학적 자연주의와 뇌의 인과력

설은 심신 이원론을 배격하면서도 기능주의적 계산주의 역시 단호히 거부했습니다. 그가 주창한 대안은 생물학적 자연주의(Biological Naturalism)입니다:

1. 의식은 1인칭적(First-person ontology)으로 실재하는 환원 불가능한 생물학적 현상이다.
2. 의식 상태는 뇌의 하위 신경생물학적 메커니즘에 의해 전적으로 유발된다.
3. 의식은 뇌라는 생물학적 시스템의 상위 수준 거시적 특징(Macro-feature)으로 실현된다.

설은 이를 물의 유동성(Liquidity)에 비유합니다. 물 분자($\text{H}_2\text{O}$)들의 미시적 전자기적 상호작용이 거시적 성질인 ‘액체의 유동성’을 낳듯이, 신경세포들의 생화학적 활동이 주관적 의식과 내재적 지향성을 낳습니다. 컴퓨터 시뮬레이션이 결코 비를 내려 화면을 젖게 만들 수 없듯, 뇌의 계산적 시뮬레이션은 결코 의식을 창조할 수 없다는 논리입니다.

7. 대니얼 데닛의 비판과 인공지능의 세계 모델(World Models)

반면 철학자 대니얼 데닛(Daniel Dennett)은 중국어 방이 인간의 직관을 왜곡하는 ‘직관 펌프(Intuition Pump)’에 불과하다고 비판합니다. 인간 두뇌의 개별 신경세포도 중국어를 전혀 이해하지 못하며, 이해란 무지한 요소들이 복잡한 위계망 속에서 상호작용할 때 나타나는 창발적 속성(Emergence)이라는 것입니다.

최근의 기계론적 해석가능성(Mechanistic Interpretability) 연구는 오셀로 게임의 착수 기록 텍스트만 학습한 트랜스포머(Othello-GPT)가 내부 잠재 벡터 공간 속에 8x8 물리적 체스판의 세계 모델을 자율적으로 재구성한다는 사실을 밝혔습니다(Li et al., 2022). 표면적 기호의 통계적 예측 최적화가 내부적으로 실세계의 인과 구조를 학습하도록 강제한다면, 그것은 단순한 맹목적 구문론을 넘어선 의미적 모델의 획득으로 볼 수 있지 않을까요? 이 철학적 격전은 AGI의 문턱에서 더욱 뜨겁게 타오르고 있습니다.