마르코프 체인: '미래는 현재에 의해서만 결정된다' 상태 전이의 수학과 확률 모델

시작하며

우리가 사는 세계는 불확실성으로 가득 차 있습니다. 내일의 날씨, 주가의 변동, 인터넷상의 페이지 이동 등 예측하기 어려운 현상은 수없이 존재합니다. 이러한 불확실한 현상을 수학적으로 모델링하는 강력한 도구가 마르코프 체인 (Markov chain)입니다.

마르코프 체인의 가장 큰 특징은 “미래의 상태는 과거의 이력에 의존하지 않고 현재의 상태에 의해서만 결정된다"는 마르코프 성질 (Markov property)을 가지고 있다는 것입니다. 본 기사에서는 이 매력적인 수학적 모델의 기초부터 구체적인 계산 방법, 그리고 실제 사회에서의 응용까지 자세히 해설합니다.

마르코프 성질이란 무엇인가?

확률 과정에서 특정 시간 $t$ 에서의 상태가 $X_t$ 로 표현된다고 가정합시다. 이산 시간 모델을 생각할 때, 마르코프 성질은 다음과 같은 수식으로 정의됩니다.

$$ P(X_{n+1} = x_{n+1} \mid X_n = x_n, X_{n-1} = x_{n-1}, \dots, X_0 = x_0) = P(X_{n+1} = x_{n+1} \mid X_n = x_n) $$

이 식은 시간 $n+1$ 에 상태 $x_{n+1}$ 이 될 확률은 시간 $n$ 에서의 상태 $x_n$ 만 알고 있으면 계산 가능하며, 그 이전 상태 ( $x_{n-1}, \dots, x_0$ ) 의 정보는 필요하지 않음을 나타냅니다. 이것이 “미래는 현재만으로 결정된다"는 말의 의미입니다.

전이 확률 행렬

마르코프 체인을 기술하는 데 빼놓을 수 없는 것이 전이 확률 행렬 (Transition Probability Matrix)입니다. 상태 공간이 유한한 경우, 특정 상태 $i$ 에서 상태 $j$ 로 전이할 확률을 $p_{ij}$ 라고 하면 행렬 $P$ 는 다음과 같이 표현됩니다.

$$ P = \begin{pmatrix} p_{11} & p_{12} & \cdots & p_{1k} \\ p_{21} & p_{22} & \cdots & p_{2k} \\ \vdots & \vdots & \ddots & \vdots \\ p_{k1} & p_{k2} & \cdots & p_{kk} \end{pmatrix} $$

여기서 각 행의 합은 반드시 $1$ 이 됩니다.

$$ \sum_{j=1}^{k} p_{ij} = 1 \quad \text{(모든 } i \text{ 에 대하여)} $$

구체적인 예: 일기 예보 모델

간단한 예로 어느 도시의 날씨를 생각해 보겠습니다. 상태는 “맑음"과 “비” 두 가지뿐이라고 가정합니다.

오늘이 맑은 경우, 내일도 맑을 확률은 0.7, 비가 올 확률은 0.3
오늘이 비인 경우, 내일 맑을 확률은 0.4, 비가 올 확률은 0.6

이 모델을 전이 확률 행렬 $P$ 로 나타내면 다음과 같습니다.

$$ P = \begin{pmatrix} 0.7 & 0.3 \\ 0.4 & 0.6 \end{pmatrix} $$

이 상태 전이를 Mermaid 그래프로 시각화해 보겠습니다.

  graph TD
  A["맑음"] -->|"0.7"| A
  A -->|"0.3"| B["비"]
  B -->|"0.4"| A
  B -->|"0.6"| B

정상 분포: 장기적인 거동

마르코프 체인을 장기간 ( $n \to \infty$ ) 관측했을 때, 상태의 확률 분포는 어떻게 될까요? 많은 마르코프 체인에서는 초기 상태에 관계없이 특정 확률 분포로 수렴합니다. 이를 정상 분포 (Stationary distribution)라고 부릅니다.

확률 벡터를 $\pi$ 라고 했을 때, 정상 분포는 다음 방정식을 만족합니다.

$$ \pi P = \pi $$

조건으로서 $\sum \pi_i = 1$ 이 필요합니다.

앞서 살펴본 날씨의 예에서 정상 분포 $\pi = (\pi_{\text{맑음}}, \pi_{\text{비}})$ 를 계산해 보겠습니다.

$$ \begin{pmatrix} \pi_{\text{맑음}} & \pi_{\text{비}} \end{pmatrix} \begin{pmatrix} 0.7 & 0.3 \\ 0.4 & 0.6 \end{pmatrix} = \begin{pmatrix} \pi_{\text{맑음}} & \pi_{\text{비}} \end{pmatrix} $$

연립방정식을 풀면 다음과 같습니다.

$0.7\pi_{\text{맑음}} + 0.4\pi_{\text{비}} = \pi_{\text{맑음}}$
$0.3\pi_{\text{맑음}} + 0.6\pi_{\text{비}} = \pi_{\text{비}}$
$\pi_{\text{맑음}} + \pi_{\text{비}} = 1$

이를 풀면 $\pi_{\text{맑음}} = \frac{4}{7} \approx 0.57$ , $\pi_{\text{비}} = \frac{3}{7} \approx 0.43$ 이 됩니다. 즉, 장기적으로는 약 57%의 확률로 맑고, 43%의 확률로 비가 온다는 것을 알 수 있습니다.

마르코프 체인의 응용

마르코프 체인은 수학의 세계에 머물지 않고 다양한 실세계 시스템에 응용되고 있습니다.

1. Google의 PageRank 알고리즘

인터넷상의 웹 페이지를 상태로 하고, 링크를 따라가는 행동을 확률 전이로 간주하여 페이지의 중요도를 계산합니다. PageRank는 인터넷이라는 거대한 상태 공간에서의 정상 분포를 구하고 있다고 할 수 있습니다.

2. 자연어 처리 및 텍스트 생성

문장 중 단어의 배열을 마르코프 체인으로 모델링함으로써 어떤 단어 다음에 오기 쉬운 단어를 예측하고 자연스러운 문장을 생성할 수 있습니다 (N-gram 모델). 이것은 현대 AI 언어 모델의 기초가 되는 사고방식입니다.

3. 경제학과 금융 공학

주가의 변동이나 소비자의 브랜드 이동(특정 상품을 사던 사람이 다른 상품으로 갈아탈 확률) 등을 모델링하여 시장 예측 및 마케팅 전략에 활용되고 있습니다.

요약

마르코프 체인은 “현재의 정보만 있으면 미래의 예측이 가능하다"는 단순하면서도 강력한 가정에 기초하고 있습니다. 이 마르코프 성질 로 인해 복잡해 보이는 현상을 전이 확률 행렬로 정식화하고, 장기적인 경향(정상 분포)을 수학적으로 도출할 수 있습니다.

이론적인 아름다움뿐만 아니라 정보 검색에서 AI, 경제 예측에 이르기까지 폭넓은 응용을 가진 마르코프 체인은 불확실한 세계를 해독하기 위한 매우 중요한 렌즈 중 하나라고 할 수 있습니다.