서론: 차원이라는 개념의 재고
우리가 일상적으로 경험하는 공간은 3차원 유클리드 공간으로 인식됩니다. 종이 위의 선은 1차원이고, 평면은 2차원이며, 입체는 3차원입니다. 이는 고대 그리스의 유클리드 이래 수천 년에 걸쳐 인류의 공간 인식의 기반이 되어온 확고한 직관입니다. 하지만 자연계의 복잡한 형상을 관찰할 때, 이 ‘정수 차원’이라는 패러다임은 결정적인 한계에 직면합니다. 구름은 구가 아니며, 산은 원뿔이 아니고, 해안선은 원호가 아닙니다. 나무의 가지치기, 혈관의 네트워크, 번개의 궤적 등 자연계에서 볼 수 있는 형태의 대부분은 매끄러운 유클리드 기하학의 대상과는 본질적으로 다른 ‘거칠기(roughness)‘를 가지고 있습니다.
이러한 자연계의 복잡성을 수학적으로 기술하기 위한 새로운 언어로 탄생한 것이 ‘프랙탈 기하학’입니다. 그리고 그 이론적 근간을 지탱하는 것이 ‘하우스도르프 측도’와 이에 수반되는 ‘하우스도르프 차원’이라는 실해석학 및 측도론의 심연에서 탄생한 개념입니다. 본 고에서는 프랙탈 차원이 어떻게 정의되고 계산되며, 어떻게 자연 현상의 이해에 응용되고 있는지를 직관적인 기하학부터 엄밀한 측도론에 이르기까지 철저하게 해설합니다.
제1장: 유클리드 기하학의 한계와 ‘자연의 거칠기’
브누아 망델브로의 질문 “영국 해안선의 길이는 얼마인가?”
프랙탈 기하학의 서막을 상징하는 유명한 질문이 있습니다. “영국 해안선의 길이는 얼마인가? (How Long Is the Coast of Britain?)“라는, 브누아 망델브로(Benoit Mandelbrot)가 1967년 과학 저널 “Science"에 발표한 논문의 제목입니다.
얼핏 보기에 이 질문은 단순한 측량 문제로 생각됩니다. 그러나 그 안에는 깊은 역설이 숨어 있었습니다. 해안선의 길이를 재기 위해 일정한 길이의 자(예를 들어 길이 $\eta = 100 \text{ km}$)를 사용하여 해안선을 근사해 나간다고 가정해 봅시다. 자의 길이를 줄여나가면($\eta = 10 \text{ km}, 1 \text{ km}, 1 \text{ m}, \dots$) 측정되는 총 길이는 어떻게 될까요? 매끄러운 곡선(원이나 포물선 등)이라면 자를 작게 할수록 일정한 유한한 값에 수렴합니다. 이것이 고전적인 곡선의 길이(호 길이)의 정의입니다.
그러나 실제 해안선에서는 그렇지 않습니다. 자를 작게 하면 할수록 그때까지 자 사이에 숨겨져 간과되었던 작은 만이나 바위의 요철이 측정에 포함되게 되어, 해안선의 길이는 무한히 증대되는 것입니다. 즉, 측정 척도 $\eta$가 $0$에 가까워지는 극한에서 해안선의 길이 $L(\eta)$는 무한대로 발산해 버립니다.
리처드슨의 효과
이 현상은 기상학자 루이스 프라이 리처드슨(Lewis Fry Richardson)에 의해 경험적으로 발견되었습니다. 리처드슨은 여러 국가의 국경선과 해안선의 길이를 다양한 척도로 측정하여, 측정 척도 $\eta$와 측정된 길이 $L(\eta)$ 사이에 다음과 같은 멱법칙(power law)이 성립함을 발견했습니다.
$$ L(\eta) \propto \eta^{1-D} $$여기서 $D$는 상수이며, 해안선이 복잡할수록 $D$의 값은 커집니다. 리처드슨 자신은 이 $D$를 경험적인 상수로 다루었지만, 망델브로는 이에 심오한 수학적 해석을 부여했습니다. 즉, 이 $D$야말로 대상의 ‘차원’을 나타낸다고 생각한 것입니다.
매끄러운 1차원 곡선의 경우는 $D=1$이 되어 $L(\eta) \propto \eta^0 = 1$로 길이는 일정한 값에 수렴합니다. 그러나 영국의 해안선과 같이 극도로 복잡한 경계의 경우는 $D \approx 1.25$가 되어 $1 - D = -0.25 < 0$이므로 $\eta \to 0$에 따라 $L(\eta) \to \infty$가 되는 것입니다. 이 $1$보다 크고 $2$보다 작은 실수 차원이야말로 ‘프랙탈 차원’의 첫 맹아였습니다.
제2장: 자기 유사성과 상사 차원(Similarity Dimension)
프랙탈(fractal)이라는 단어는 라틴어 ‘fractus(부서진, 단편화된)‘에서 유래했으며 망델브로가 만들어낸 조어입니다. 프랙탈의 가장 기본적인 특징 중 하나가 ‘자기 유사성(self-similarity)‘입니다. 전체를 확대하면 그 안에 전체와 같은 구조가 포함되어 있는 성질을 말합니다.
이 자기 유사성을 이용함으로써 ‘상사 차원(Similarity Dimension)‘이라는 직관적인 차원의 정의를 도출할 수 있습니다.
상사 차원 $D$의 직관적 도출
매끄러운 유클리드 도형의 성질을 생각해 봅시다.
- 1차원 선분을 $1/r$의 척도로 축소하면, 원래의 선분을 구성하기 위해서는 그 축소된 선분이 $r^1$개 필요합니다.
- 2차원 정사각형을 각 변 $1/r$로 축소하면, 원래의 정사각형을 구성하기 위해서는 작은 정사각형이 $r^2$개 필요합니다.
- 3차원 정육면체를 각 변 $1/r$로 축소하면, 원래의 정육면체를 구성하기 위해서는 작은 정육면체가 $r^3$개 필요합니다.
이 되며, 차원 $d$에 대해 풀면 다음과 같이 정의할 수 있습니다.
$$ d = \frac{\log N}{\log r} $$이 정의를 정수 차원을 갖지 않는 자기 유사 도형으로 확장한 것이 ‘상사 차원’입니다.
$$ D_s = \frac{\log N}{\log(1/r)} $$여기서 $r$은 축소율($0 < r < 1$), $N$은 그 축소된 도형을 사용하여 원래의 도형을 완전히 덮는 데 필요한 개수입니다. ($r$을 축소율로 할 경우 분모는 $\log(1/r)$이 됩니다. 앞의 예에서는 $r$을 배율로 하였으므로 기호의 정의에 주의해 주십시오).
칸토어 집합(Cantor Set)
1883년 게오르크 칸토어(Georg Cantor)에 의해 도입된 이 집합은 측도론에서 가장 중요한 반례 중 하나입니다. 구성 방법은 다음과 같습니다.
- 구간 $[0, 1]$에서 시작한다(단계 0).
- 중앙의 1/3인 $(1/3, 2/3)$을 제거한다(단계 1: 구간은 $[0, 1/3] \cup [2/3, 1]$).
- 남은 각 구간의 중앙의 1/3을 제거한다.
- 이를 무한히 반복한다.
가 됩니다. 이는 0차원(점)보다는 크고 1차원(선)보다는 작은 집합입니다. 놀랍게도 이 집합의 르베그 측도(길이)는 $0$이면서도 비가산 무한 개의 점을 포함하고 있습니다.
코흐 곡선(Koch Curve)
헬게 폰 코흐(Helge von Koch)가 1904년에 고안한 연속이지만 모든 곳에서 미분 불가능한 곡선입니다.
- 선분을 3등분한다.
- 중앙의 구간을 밑변으로 하는 정삼각형의 두 변으로 대체한다.
- 모든 선분에 대해 이를 반복한다.
이 됩니다.
시에르핀스키 가스켓(Sierpinski Gasket)
$$ D = \frac{\log 3}{\log 2} \approx 1.5849 $$가 됩니다. 면적(2차원 르베그 측도)은 0이지만, 1차원의 길이는 무한대입니다.
제3장: 하우스도르프 외측도와 하우스도르프 차원의 엄밀한 정의
상사 차원은 직관적이고 계산도 용이하지만, ‘엄밀한 자기 유사성’을 가진 도형에만 적용할 수 있습니다. 자연계의 프랙탈이나 수학적으로 복잡한 집합(자기 유사성이 무너진 집합)의 차원을 결정하기 위해서는 실해석학 및 측도론에 기반한 엄밀하고 보편적인 차원의 정의가 필요합니다. 그것이 ‘하우스도르프 차원(Hausdorff Dimension)‘입니다.
1918년 펠릭스 하우스도르프(Felix Hausdorff)는 카라테오도리의 측도론적 수법을 확장하여 임의의 음이 아닌 실수 $d$에 대한 $d$-차원 외측도를 정의했습니다.
$\delta$-피복($\delta$-cover)
$$ E \subset \bigcup_{i=1}^\infty U_i \quad \text{이고} \quad \operatorname{diam}(U_i) \leq \delta $$를 만족할 때, 이를 $E$의 $\delta$-피복이라고 부릅니다. 여기서 $\operatorname{diam}(U_i)$는 $U_i$의 지름(상한 거리) $\sup_{x,y \in U_i} \|x - y\|$입니다.
하우스도르프 외측도 $\mathcal{H}^d(E)$
음이 아닌 실수 $d \geq 0$을 하나 고정합니다. $E$의 임의의 $\delta$-피복 $\{U_i\}$에 대해 각각의 지름의 $d$제곱의 합을 생각하고 그 하한을 취합니다.
$$ \mathcal{H}_\delta^d(E) = \inf \left\{ \sum_{i=1}^\infty (\operatorname{diam} U_i)^d \mathrel{\Big|} \{U_i\} \text{ 는 } E \text{ 의 } \delta\text{-피복} \right\} $$$\delta$를 작게 해 나가면 피복의 조건이 엄격해지므로 하한의 집합은 좁아지고, $\mathcal{H}_\delta^d(E)$는 단조 비감소가 됩니다. 따라서 $\delta \to 0$의 극한이 존재합니다($\infty$를 포함).
$$ \mathcal{H}^d(E) = \lim_{\delta \to 0} \mathcal{H}_\delta^d(E) = \sup_{\delta > 0} \mathcal{H}_\delta^d(E) $$이 $\mathcal{H}^d(E)$를 $d$차원의 하우스도르프 측도라고 부릅니다. 측도론적으로 말하면, 이는 보렐 완전성을 가지는 외측도(카라테오도리 조건을 만족)이며 보렐 집합족 위에서 가산 가법성을 만족하는 진정한 측도가 됩니다.
정수 차원 $d = n$의 경우, $\mathcal{H}^n(E)$는 일반적인 $n$차원 르베그 측도와 상수배의 차이밖에 없습니다(정규화 상수를 조정하면 완전히 일치합니다).
점프하는 임계값으로서의 하우스도르프 차원 $\dim_H(E)$
$$ \sum (\operatorname{diam} U_i)^s = \sum (\operatorname{diam} U_i)^{s-d} (\operatorname{diam} U_i)^d \leq \delta^{s-d} \sum (\operatorname{diam} U_i)^d $$가 됩니다. $\delta \to 0$으로 하면 $\delta^{s-d} \to 0$이 되므로 $\mathcal{H}^s(E) = 0$이 됩니다. 반대로 말하면, $\mathcal{H}^s(E) > 0$이라면 임의의 $d < s$에 대해 $\mathcal{H}^d(E) = \infty$가 됩니다.
즉, $d$를 $0$에서부터 키워 나가면 $\mathcal{H}^d(E)$는 어느 임계점까지는 항상 $\infty$이며, 그 임계점을 넘으면 항상 $0$이 되는 극단적인 ‘점프’를 보여줍니다. 이 임계의 $d$ 값을 **하우스도르프 차원(Hausdorff Dimension)**이라고 정의합니다.
$$ \dim_H(E) = \inf \{ d \geq 0 \mid \mathcal{H}^d(E) = 0 \} = \sup \{ d \geq 0 \mid \mathcal{H}^d(E) = \infty \} $$이 정의의 압도적인 아름다움은 대상 집합 $E$가 자기 유사성을 가지지 않아도, 어떠한 병적인 집합이라도, 모든 거리 공간의 부분집합에 대해 차원이 엄밀하게 유일하게 정해진다는 점에 있습니다. 칸토어 집합이나 코흐 곡선의 하우스도르프 차원은 앞서 언급한 상사 차원과 정확하게 일치합니다.
제4장: 박스 카운팅 차원(용량 차원)과 정보 차원, 패킹 차원
하우스도르프 차원은 수학적으로 가장 세련된 개념이지만, 수치 계산이나 실험 데이터의 해석에는 적합하지 않습니다(무한한 피복 패턴으로부터 하한을 구하고 나아가 극한을 취해야 하기 때문입니다). 따라서 응용 수학이나 물리학에서는 보다 계산 가능한 프랙탈 차원의 정의가 사용됩니다.
박스 카운팅 차원(용량 차원, Box-counting Dimension)
공간을 한 변의 길이가 $\varepsilon$인 그리드(격자)로 분할하고, 대상 집합 $E$와 교차하는 박스(격자점)의 수를 $N(\varepsilon)$이라고 합니다. 이때 박스 카운팅 차원 $\dim_B(E)$는 다음과 같이 정의됩니다.
$$ \dim_B(E) = \lim_{\varepsilon \to 0} \frac{\log N(\varepsilon)}{-\log \varepsilon} $$이 정의는 극히 실용적이며, 화상 해석 등에서 프랙탈 차원을 추정할 때의 알고리즘(커버리지법)의 기초가 되고 있습니다. 단, 수학적인 결점도 있습니다. 예를 들어 유리수 집합 $\mathbb{Q} \cap [0,1]$의 박스 카운팅 차원은 $1$이지만, 하우스도르프 차원은 가산 집합이므로 $0$이 됩니다. 일반적으로 $\dim_H(E) \leq \dim_B(E)$가 성립합니다.
정보 차원(Information Dimension)과 일반화 차원
프랙탈 집합이 균일하지 않은 분포를 가질 경우 단순히 박스를 세는 것만으로는 불충분합니다. 각 박스 $i$에 포함된 측도(확률)를 $P_i$라고 할 때, 섀넌 엔트로피 $I(\varepsilon) = - \sum P_i \log P_i$를 사용하여 정보 차원 $D_1$이 정의됩니다.
$$ D_1 = \lim_{\varepsilon \to 0} \frac{\sum P_i \log P_i}{\log \varepsilon} $$나아가 알프레드 레니(Alfréd Rényi)의 확장 엔트로피에 기반한 ‘멀티프랙탈(다중 프랙탈)’ 이론에서 일반화 차원(Rényi 차원) $D_q$의 개념으로 발전합니다.
패킹 차원(Packing Dimension)
1980년대 Tricot에 의해 도입된 패킹 차원 $\dim_P(E)$는 하우스도르프 차원과 쌍대(dual)를 이루는 개념입니다. 하우스도르프 차원이 ‘집합을 피복하는’ 접근을 취하는 반면, 패킹 차원은 ‘집합 내에 구를 채워 넣는(패킹하는)’ 접근을 취합니다. 엄밀하게는 $\dim_H(E) \leq \dim_P(E) \leq \dim_{\overline{B}}(E)$(상 박스 카운팅 차원)라는 관계가 성립하며, 확률론적인 집합 해석에서 매우 강력한 도구가 됩니다.
제5장: 망델브로 집합과 줄리아 집합의 복소 역학계
프랙탈 기하학을 말함에 있어 피할 수 없는 것이 복소 역학계(Complex Dynamics)의 세계입니다. 특히 복소 평면 위의 극히 단순한 이차 사상으로부터 만들어지는 ‘망델브로 집합(Mandelbrot set)‘은 수학 역사상 가장 복잡하고 아름다운 도형 중 하나로 여겨집니다.
복소 이차 사상 $z_{n+1} = z_n^2 + c$
복소수 $c \in \mathbb{C}$를 파라미터로 하는 역학계를 생각합니다. 초깃값 $z_0 = 0$에서 출발하여 다음 점화식으로 수열 $\{z_n\}$을 생성합니다.
$$ z_{n+1} = z_n^2 + c $$이 수열이 $n \to \infty$에서 발산하지 않고 유계(bounded)에 머무르는 파라미터 $c$의 집합을 **망델브로 집합 $\mathcal{M}$**이라고 부릅니다.
$$ \mathcal{M} = \left\{ c \in \mathbb{C} \mathrel{\Big|} \sup_{n} |z_n| < \infty, \text{ 단, } z_0 = 0 \right\} $$한편 $c$를 고정하고 초깃값 $z_0$ 쪽을 움직였을 때, 수열이 유계에 머무르는 초깃값의 집합(의 경계)을 **줄리아 집합(Julia set)**이라고 부릅니다. 망델브로 집합은 말하자면 무수히 존재하는 줄리아 집합의 카탈로그(연결성의 파라미터 공간)로서 기능합니다.
경계의 하우스도르프 차원에 관한 시시쿠라의 정리
망델브로 집합의 경계 $\partial \mathcal{M}$은 상상을 초월할 정도로 복잡한 프랙탈 구조를 하고 있습니다. 아무리 확대해도 무한히 축소된 작은 망델브로 집합의 복사본(미니 망델브로)이 무수한 필라멘트로 연결되어 계속해서 출현합니다.
이 경계선의 ‘복잡성’은 수학적으로 어느 정도일까요? 1998년, 일본의 수학자 시시쿠라 미쓰히로(Mitsuhiro Shishikura)는 복소 역학계의 기념비적인 정리를 증명했습니다.
$$ \dim_H(\partial \mathcal{M}) = 2 $$평면(2차원) 위의 단순한 경계 ‘선(1차원적인 것)‘임에도 불구하고 그 하우스도르프 차원이 공간의 차원 자체인 $2$에 도달한다는 사실은, $\partial \mathcal{M}$이 복소 평면 위에서 극한까지 공간을 가득 메우듯 굽이치고 꺾이며 미세한 구조를 무수히 가지고 있음을 의미합니다. 그러나 그 2차원 르베그 측도(면적)가 양수인지의 여부는 현대 수학의 미해결 초난제로 남아있습니다.
제6장: 물리학 및 자연계에서의 프랙탈
프랙탈 기하학과 하우스도르프 차원은 순수 수학의 틀을 넘어 물리학, 생물학, 우주론 등 자연 과학 전반에 파괴적인 영향을 주었습니다. 자연계는 유클리드 기하학보다 프랙탈 기하학을 선택한 것처럼 보입니다.
난류(Turbulence)와 유체 역학
유체 역학에서 가장 난해한 현상인 ‘난류’는 프랙탈 구조를 가지고 있습니다. 에너지 캐스케이드 이론(리처드슨이나 콜모고로프에 의한)에 따르면, 난류 안의 큰 소용돌이는 붕괴하여 더 작은 소용돌이가 되고 다시 그것이 붕괴하는 과정을 자기 유사적으로 반복합니다. 에너지가 소산되는 영역(소산 구조)의 프랙탈 차원을 계산하는 것은 나비에-스토크스 방정식의 수학적 규명을 향한 접근 중 하나가 되고 있습니다.
브라운 운동의 궤적 $D=2$
$$ \dim_H(\text{Brownian path}) = 2 \quad \text{almost surely} $$이는 1차원의 시간 파라미터로 생성되는 곡선이면서도 2차원 공간의 면적적인 확장을 가질 만큼 공간을 빽빽하게 탐색함을 보여줍니다.
은하의 거대 구조(우주론)
밤하늘을 올려다보면 별들은 무작위로 흩어져 있는 것처럼 보이지만, 우주의 광역 스케일에서 은하의 분포를 3차원적으로 매핑(슬론 디지털 스카이 서베이 등)하면 필라멘트 형태의 초은하단과 거대한 빈 공간(보이드)으로 이루어진 ‘우주의 거대 구조’가 떠오릅니다. 이 물질 분포의 상관함수를 해석하면 특정 척도에서 프랙탈 차원 $D \approx 1.2 \sim 2.0$의 자기 유사성을 가짐이 시사되고 있습니다. 중력에 의한 물질의 자기 조직화가 프랙탈을 만들어내고 있는 것입니다.
폐포나 혈관망의 최적 수송 네트워크
생물학의 영역에서도 프랙탈은 보편적입니다. 인간의 폐(기관지의 분기 구조)나 심혈관계, 뇌의 신경 회로망은 프랙탈 구조를 가지고 있습니다. 왜 자연 선택은 프랙탈을 선택했을까요? 그것은 ‘유한한 부피(공간) 안에 무한한 표면적을 채워 넣기’ 위한 최적해이기 때문입니다. 기관지가 프랙탈로 분기함으로써 폐의 부피를 일정하게 유지하면서 산소 교환을 하는 표면적을 극대화하고, 나아가 혈액을 신체 구석구석의 세포로 전달하기 위한 에너지 손실을 최소화하고 있습니다. 생명의 최적화 메커니즘은 수학적인 프랙탈 차원의 법칙에 완전히 합치하는 것입니다.
결론: 차원의 연속성과 새로운 자연관
유클리드 기하학이 우리에게 부여한 ‘정수 차원’은 인간의 두뇌가 세상을 단순화하여 이해하기 위한 지극히 유용한 근사 모델이었습니다. 그러나 측도론의 발전과 망델브로의 직관에 의해 탄생한 ‘프랙탈’과 ‘하우스도르프 차원’은 차원이 $0, 1, 2, 3$이라는 이산적인 값을 가지는 것이 아니라 실수의 연속체로서 존재할 수 있음을 증명했습니다.
하우스도르프 차원은 자연계에 숨어있는 ‘거칠기’, ‘무한한 세부’, ‘카오스 속에 숨어있는 질서’를 정량화하는 궁극의 척도입니다. 해안선, 나무, 번개, 우주의 구조, 그리고 우리 자신의 신체 구조에 이르기까지 프랙탈은 우주의 보편적인 디자인 언어라 할 수 있습니다.
수학의 추상적인 극치인 측도론(하우스도르프 외측도)이 이토록 물리적 세계의 실태를 정확하게 기술하고 있다는 사실은, 수학과 자연 과학 사이에 존재하는 신비로운 대응 관계를 우리에게 강렬하게 각인시킵니다. 프랙탈 기하학은 우리가 세상을 바라보는 눈을 근본부터 바꾸어 버린 것입니다.