1. 서론: ‘무작위 선택’이라는 직관의 붕괴와 1889년의 충격
주사위를 던져 1이 나올 확률은 $1/6$이고, 동전을 던져 앞면이 나올 확률은 $1/2$이다. 유한개의 이산적인 선택지가 주어졌을 때, 특정한 선택지를 편애할 이유가 없다면 동일한 확률을 부여한다는 생각은 지극히 자명해 보인다.
그러나 대상이 유한 집합에서 연속적인 기하학적 공간(Continuum)으로 넘어가는 순간, 이 소박한 직관은 산산조각이 난다. 1889년 프랑스의 수학자 조제프 베르트랑(Joseph Bertrand, 1822–1900)은 저서 《확률 계산(Calcul des probabilités)》에서 단 몇 줄짜리 기하학 문제를 통해 고전적 확률론의 심장부를 겨누었다. 오늘날 ‘베르트랑의 역설(Bertrand’s Paradox)’이라 불리는 문제다.
유클리드 평면 $\mathbb{R}^2$ 위의 반지름 $R = 1$인 단위원 $S^1 = \{(x,y) : x^2 + y^2 = 1\}$에 내접하는 정삼각형 $\triangle ABC$를 생각하자. 정삼각형의 한 변의 길이는 $L = 2R\sin(\pi/3) = \sqrt{3} \approx 1.732$이며, 원의 중심 $O(0,0)$에서 정삼각형의 각 변에 내린 수선의 길이(내접원의 반지름)는 $r_{\text{in}} = R\cos(\pi/3) = 1/2$이다.
[베르트랑의 문제 (1889)] 단위원의 현(원주 위의 두 점을 잇는 선분)을 ‘무작위로(at random)’ 하나 긋는다. 이 현의 길이 $c$가 내접 정삼각형의 한 변의 길이 $L = \sqrt{3}$보다 길 확률 $P(c > \sqrt{3})$은 얼마인가?
놀랍게도 베르트랑은 완전히 자연스럽고 대칭적인 세 가지 현의 생성 방식을 제시하고, 각각으로부터 $P_1 = 1/3$, $P_2 = 1/2$, $P_3 = 1/4$という 서로 모순되는 세 가지 엄밀해를 도출했다.
flowchart TD
Q["베르트랑의 질문 (1889)<br/>단위원에서 무작위로 현을 그을 때,<br/>현의 길이 c > √3 일 확률 P는?"]
Q --> M1["해법 1: 원주 위의 무작위 양 끝점<br/>중심각 θ ~ Uniform(0, π)"]
Q --> M2["해법 2: 반지름 위의 무작위 거리<br/>중심에서의 거리 r ~ Uniform(0, 1)"]
Q --> M3["해법 3: 원판 내부의 무작위 중점<br/>중점 좌표 (x, y) ~ Uniform(D²)"]
M1 --> D1["거리 확률밀도함수<br/>f₁(r) = 2 / (π√(1 - r²))"]
M2 --> D2["거리 확률밀도함수<br/>f₂(r) = 1"]
M3 --> D3["거리 확률밀도함수<br/>f₃(r) = 2r"]
D1 --> P1["확률 P₁(c > √3) = 1/3 ≈ 0.3333"]
D2 --> P2["확률 P₂(c > √3) = 1/2 = 0.5000"]
D3 --> P3["확률 P₃(c > √3) = 1/4 = 0.2500"]
2. 세 가지 고전적 해법의 엄밀한 유도와 확률밀도함수
현 $c$가 원의 중심 $O$에서 이루는 중심각을 $\theta \in [0, \pi]$, 중심 $O$에서 현에 내린 수선의 발(현의 중점 $M$)까지의 거리를 $r \in [0, 1]$, 수선의 방향각을 $\phi \in [0, 2\pi)$라 하자. 피타고라스 정리에 의해 다음의 기본 항등식이 성립한다.
$$c = 2\sqrt{1 - r^2} = 2\sin\left(\frac{\theta}{2}\right), \qquad r = \cos\left(\frac{\theta}{2}\right) = \sqrt{1 - \frac{c^2}{4}}$$따라서 사건 $E = \{c > \sqrt{3}\}$은 모든 좌표계에서 다음의 조건과 동치이다.
$$c > \sqrt{3} \iff 2\sqrt{1 - r^2} > \sqrt{3} \iff 0 \le r < \frac{1}{2} \iff \theta \in \left(\frac{2\pi}{3}, \frac{4\pi}{3}\right)$$2.1 해법 1: 원주 위의 두 끝점을 균등하게 선택 ($P_1 = 1/3$)
회전 대칭성 $SO(2)$에 의해 한 끝점 $A$를 정삼각형의 꼭짓점($\theta = 0$)에 고정하고, 다른 끝점 $B$의 각도 $\theta \sim \text{Uniform}(0, 2\pi)$를 원주 위에서 균등하게 선택한다. 현의 길이가 $\sqrt{3}$보다 길어지려면 끝점 $B$가 맞은편 호 $\theta \in (2\pi/3, 4\pi/3)$ 위에 놓여야 한다. 전체 원주 $2\pi$ 중 해당 호의 길이는 $2\pi/3$이므로 확률은 다음과 같다.
$$P_1(c > \sqrt{3}) = \frac{4\pi/3 - 2\pi/3}{2\pi} = \frac{1}{3}$$변수변환 $r = \cos(\theta/2)$($\theta \in [0, \pi]$, $f_\Theta(\theta) = 1/\pi$)와 야코비안 $\left|\frac{d\theta}{dr}\right| = \frac{2}{\sqrt{1 - r^2}}$를 적용하면 중심 거리 $r$과 현의 길이 $c$의 확률밀도함수는 다음과 같이 도출된다.
$$f_{R,1}(r) = \frac{2}{\pi\sqrt{1 - r^2}}, \qquad f_{C,1}(c) = \frac{2}{\pi\sqrt{4 - c^2}}, \qquad \mathbb{E}_1[c] = \frac{4}{\pi} \approx 1.2732$$2.2 해법 2: 고정된 반지름 위에서 중심 거리를 균등하게 선택 ($P_2 = 1/2$)
반지름의 방향 $\phi \sim \text{Uniform}(0, 2\pi)$를 선택한 뒤, 그 반지름 위에서 현의 중점까지의 거리 $r \sim \text{Uniform}(0, 1)$를 균등하게 선택하여 반지름에 수직인 현을 긋는다. 정삼각형의 변은 중심으로부터 거리 $r_{\text{in}} = 1/2$에 위치하므로, $c > \sqrt{3} \iff 0 \le r < 1/2$이다.
$$P_2(c > \sqrt{3}) = \int_0^{1/2} 1\,dr = \frac{1}{2}, \qquad f_{R,2}(r) = 1, \qquad f_{C,2}(c) = \frac{c}{2\sqrt{4 - c^2}}, \qquad \mathbb{E}_2[c] = \frac{\pi}{2} \approx 1.5708$$2.3 해법 3: 원판 내부에서 현의 중점을 면적 균등하게 선택 ($P_3 = 1/4$)
지름이 아닌 모든 현은 단위원판 $D^2 = \{(x,y) : x^2 + y^2 \le 1\}$ 내부의 중점 $M(x, y)$에 의해 유일하게 결정된다. 원판 전체 면적($\pi R^2 = \pi$)에 대해 균등하게 중점 $(x, y)$를 선택하면($f_{X,Y}(x,y) = 1/\pi$), $c > \sqrt{3}$일 필요충분조건은 중점 $M$이 반지름 $1/2$인 동심 내접원판 $D_{1/2}$ 내부에 들어오는 것이다.
$$P_3(c > \sqrt{3}) = \frac{\text{Area}(D_{1/2})}{\text{Area}(D_1)} = \frac{\pi (1/2)^2}{\pi (1)^2} = \frac{1}{4}$$왜 해법 2와 해법 3이 다른가? 극좌표 변환에서 면적소 $dx\,dy = r\,dr\,d\phi$는 야코비안 $J = r$을 포함하기 때문이다. $\phi \in [0, 2\pi)$에 대해 적분하면 $r$의 주변확률밀도함수는 상수가 아니라 $2r$이 된다!
$$f_{R,3}(r) = \int_0^{2\pi} \frac{1}{\pi} r\,d\phi = 2r, \qquad f_{C,3}(c) = \frac{c}{2}, \qquad \mathbb{E}_3[c] = \frac{4}{3} \approx 1.3333$$| 비교 항목 | 해법 1: 무작위 원주 끝점 | 해법 2: 무작위 반지름 거리 | 해법 3: 무작위 원판 중점 |
|---|---|---|---|
| 균등분포를 따르는 변수 | 중심각 $\theta \sim U(0, \pi)$ | 중심 거리 $r \sim U(0, 1)$ | 원판 면적 $(x,y) \sim U(D^2)$ ($r^2 \sim U(0,1)$) |
| 확률측도 요소 $d\mathbb{P}(r,\phi)$ | $\dfrac{1}{\pi^2\sqrt{1 - r^2}}\,dr\,d\phi$ | $\dfrac{1}{2\pi}\,dr\,d\phi$ | $\dfrac{r}{\pi}\,dr\,d\phi = \dfrac{1}{\pi}\,dx\,dy$ |
| 거리 밀도함수 $f_R(r)$ | $\dfrac{2}{\pi\sqrt{1 - r^2}}$ | $1$ | $2r$ |
| 현 길이 밀도함수 $f_C(c)$ | $\dfrac{2}{\pi\sqrt{4 - c^2}}$ | $\dfrac{c}{2\sqrt{4 - c^2}}$ | $\dfrac{c}{2}$ |
| 확률 $P(c > \sqrt{3})$ | $1/3 \approx 0.3333$ | $1/2 = 0.5000$ | $1/4 = 0.2500$ |
| 기댓값 $\mathbb{E}[c]$ | $4/\pi \approx 1.2732$ | $\pi/2 \approx 1.5708$ | $4/3 \approx 1.3333$ |
3. 라플라스 ‘불충분한 이유의 원리’의 위기와 케인스의 ‘와인-물 역설’(1921)
피에르시몽 라플라스(Pierre-Simon Laplace)의 고전적 확률론은 ‘불충분한 이유의 원리(Principle of Insufficient Reason)’—훗날 존 메이너드 케인스(John Maynard Keynes, 1921)가 저서 《확률론(A Treatise on Probability)》에서 ‘무차별의 원리(Principle of Indifference)’라 명명한 원리—에 기초했다.
그러나 연속 공간에서 미지의 변수 $x \in [a, b]$에 균등밀도 $f_X(x) = \frac{1}{b-a}$를 부여하면, 비선형 변수변환 $y = g(x)$에 의해 야코비안(Jacobian) $\left|\frac{dx}{dy}\right|$가 곱해진다.
$$f_Y(y) = f_X\bigl(g^{-1}(y)\bigr)\left|\frac{dx}{dy}\right|$$따라서 비선형 재매개변수화(Reparameterization) 아래에서 ‘균등성’은 보존되지 않는다. 케인스(1921)는 이를 ‘와인-물 역설(Wine-Water Paradox)’로 명쾌하게 논파했다.
- 잔 속에 담긴 와인과 물의 비율 $x = W_{\text{wine}}/W_{\text{water}}$가 $1/3$과 $3$ 사이에 있다는 사실만 알고 있다고 하자. $x \sim \text{Uniform}(1/3, 3)$이라 가정하면 중앙값은 $x_{\text{med}} = \frac{5}{3}$이고, $P_X(x \le 2) = \frac{2 - 1/3}{3 - 1/3} = \frac{5}{8} = 0.625$이다.
- 반면 동일한 정보는 물과 와인의 비율 $y = 1/x = W_{\text{water}}/W_{\text{wine}}$ 역시 구간 $[1/3, 3]$에 있다는 뜻이다. 무차별의 원리에 의해 $y \sim \text{Uniform}(1/3, 3)$이라 가정하면 중앙값은 $y_{\text{med}} = \frac{5}{3}$($x_{\text{med}} \cdot y_{\text{med}} = 25/9 \neq 1$ 모순!)이 되고, 동일한 사건 $x \le 2 \iff y \ge 1/2$의 확률은 $P_Y(y \ge 1/2) = \frac{3 - 1/2}{3 - 1/3} = \frac{15}{16} = 0.9375 \neq \frac{5}{8}$가 되어 자기모순에 빠진다.
4. 현대 수학과 통계학의 3대 해결책
flowchart TD
Crisis["라플라스 무차별의 원리의 붕괴<br/>비선형 변환 y = g(x) 시 야코비안 |dx/dy| 발생"]
Crisis --> R1["해결 1: 콜모고로프 (1933)<br/>측도론적 공리화 (Ω, F, P)"]
Crisis --> R2["해결 2: 제인스 (1973) & 적분기하학<br/>유클리드 운동군 E(2) 불변 측도"]
Crisis --> R3["해결 3: 제프리스 (1946) & 정보기하학<br/>피셔 정보 계량 부피 요소"]
R1 --> R1D["확률측도 P를 명시하지 않은 문제는 불량 설정(Ill-posed) 문제이며,<br/>물리적 추출 과정마다 서로 다른 확률공간이 대응한다."]
R2 --> R2D["회전·척도·평행이동 불변성을 모두 만족하는 유일한 측도는<br/>운동학적 측도 dμ = dp dφ (해법 2, P = 1/2, 코시-크로프턴 공식)이다."]
R3 --> R3D["제프리스 사전분포 p(θ) ∝ √det I(θ) 또는 곱셈군 하르 측도 dx/x를 통해<br/>재매개변수화 불변성을 완벽히 달성한다."]
4.1 안드레이 콜모고로프의 측도론적 공리화 $(\Omega, \mathcal{F}, \mathbb{P})$ (1933)
1933년 안드레이 콜모고로프(Andrei Kolmogorov)는 《확률론의 기초 개념》에서 확률을 표본공간 $\Omega$, 사건의 $\sigma$-대수 $\mathcal{F}$, 그리고 확률측도 $\mathbb{P}$의 순서쌍 $(\Omega, \mathcal{F}, \mathbb{P})$로 공리화했다. 콜모고로프의 관점에서 ‘무작위로 선택한다’는 말은 확률측도 $\mathbb{P}$를 명시하기 전까지는 수학적으로 정의되지 않은 불완전한 문장이다.
4.2 에드윈 제인스의 변환군 불변성(1973)과 푸앵카레-산탈로 운동학적 측도
1973년 물리학자 에드윈 제인스(Edwin T. Jaynes)는 논문 *“The Well-Posed Problem”*에서 바닥에 그려진 작은 원 위로 멀리서 긴 빨대를 던지는 실제 물리 실험을 분석했다. 원의 방향, 크기, 위치에 무관하려면 직선 $x\cos\phi + y\sin\phi = p$의 분포 $h(p, \phi)\,dp\,d\phi$는 다음 세 가지 대칭성을 만족해야 한다.
- 회전 불변성 $SO(2)$: $h(p, \phi) = g(p)/(2\pi)$ (세 해법 모두 만족);
- 척도(Scale) 불변성: 동심 소원($a < 1$)으로 제한해도 밀도 함수 형태가 유지됨 (경계 특이성을 갖는 해법 1 탈락);
- 평행이동 불변성 $\mathbb{R}^2$ (유클리드 강체운동군 $E(2)$): 원점을 $(x_0, y_0)$만큼 평행이동하면 $p' = p - x_0\cos\phi - y_0\sin\phi$, $\phi' = \phi$가 되며, 야코비 행렬식은 항등적으로 $1$이다. $$J = \det\frac{\partial(p', \phi')}{\partial(p, \phi)} = \det\begin{pmatrix} 1 & x_0\sin\phi - y_0\cos\phi \\ 0 & 1 \end{pmatrix} = 1$$ 모든 $(x_0, y_0)$에 대해 $g(p') = g(p)$이려면 $g(p) = \text{const.}$일 수밖에 없다!
따라서 평면의 유클리드 운동군 $E(2)$에 대해 불변인 유일한 측도는 적분기하학(Integral Geometry)의 푸앵카레-산탈로 운동학적 측도(Poincaré–Santaló Kinematic Measure)
$$d\mu(L) = dp\,d\phi$$이며, 이는 코시-크로프턴 공식(Cauchy–Crofton Formula) 및 뷔퐁의 바늘 문제(Buffon’s Needle)를 지배하는 바로 그 측도다. 볼록 도형 $K$와 만나는 직선들의 측도는 둘레의 길이 $\text{Perimeter}(\partial K)$와 같으므로, 내접원(반지름 $1/2$, 둘레 $\pi$)과 단위원(반지름 $1$, 둘레 $2\pi$)의 둘레의 비로부터 해법 2($P = \pi / (2\pi) = 1/2$)가 유일한 물리적 해로 결정된다.
4.3 해럴드 제프리스의 비정보 사전분포(Jeffreys Prior, 1946)
베이즈 통계학에서 해럴드 제프리스(Harold Jeffreys)는 피셔 정보 행렬(Fisher Information Matrix) $I_{ij}(\theta) = -\mathbb{E}\left[\frac{\partial^2 \ln p(X\mid\theta)}{\partial\theta_i\partial\theta_j}\right]$의 행렬식 제곱근을 사전분포로 도입했다.
$$p_J(\theta) \propto \sqrt{\det I(\theta)}$$이는 리만 다양체의 부피 요소로서 임의의 좌표 변환 $\eta = \psi(\theta)$에 대해 $p_J(\theta)\,d\theta = p_J(\eta)\,d\eta$를 만족한다. 와인-물 역설의 양수 비율 $x \in [1/3, 3]$에 대해서는 곱셈군 $(\mathbb{R}_{>0}, \times)$의 하르 측도(로그 균등분포) $d\mu(x) = \frac{dx}{x}$, 즉 $f(x) = \frac{1}{2\ln 3 \cdot x}$를 부여하면 역수 변환 $y = 1/x$에서도 동일한 분포가 유지되어 중앙값 $x_{\text{med}} = y_{\text{med}} = 1$로 역설이 완전히 해소된다.
5. Python 몬테카를로 시뮬레이션 검증
| |