1. はじめに
データサイエンスや統計学を学ぶ上で、避けて通れないのが 中心極限定理（Central Limit Theorem、CLT）です。この記事では、独立同分布で、平均が有限、分散が有限かつ正である場合を扱います。この条件の下では、標準化した標本平均の分布が、サンプルサイズの増加とともに標準正規分布へ近づきます。元のデータそのものが正規分布に変わるわけではありません。
本記事では、この中心極限定理について、直感的なイメージから厳密な数学的定義、そして実際の応用例までを幅広く解説します。
2. 中心極限定理とは何か？
中心極限定理（CLT）は、確率論および統計学の重要な定理です。基本形では、独立同分布の確率変数に共通する平均が有限で、分散が有限かつ正であれば、その和や平均を適切に標準化した分布が標準正規分布へ収束します。コーシー分布のように、必要な条件を満たさない分布にはこの基本形を適用できません。
2.1 直感的な理解
サイコロを考えてみましょう。1つのサイコロを振ったとき、出る目の分布は一様分布です。しかし、2つのサイコロを振ってその和をとると、分布は中央の7をピークとする三角形のようになります。さらにサイコロの数を増やしていくと、その和の分布は滑らかな釣鐘型の曲線、すなわち 正規分布 に近づいていきます。
2.2 数学的な定義
ある母集団から無作為に抽出された \(n\) 個の標本 \(X_1, X_2, \dots, X_n\) が互いに独立に同一の分布に従う（i.i.d.）とします。この母集団の平均（期待値）\(\mu\) は有限で、分散は \(0<\sigma^2<\infty\) とします。
標本平均を \(\bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i\) とすると、中心極限定理によれば、\(n\) が十分に大きいとき、次のように標準化された変数 \(Z\) は標準正規分布 \(\mathcal{N}(0, 1)\) に収束します。
\[ Z = \frac{\bar{X} - \mu}{\frac{\sigma}{\sqrt{n}}} \xrightarrow{d} \mathcal{N}(0, 1) \text{ as } n \to \infty \]ここで、\(\xrightarrow{d}\) は分布収束を意味します。\(\text{ as } n \to \infty\) はサンプルサイズが無限大に近づくことを示しています。
3. 中心極限定理の可視化
中心極限定理がどのように働くかを視覚的に理解するために、Mermaidを用いたプロセス図を示します。
graph TD
A["元の分布（非正規分布）"] -->|"サンプリング"| B["標本1"]
A -->|"サンプリング"| C["標本2"]
A -->|"サンプリング"| D["標本N"]
B -->|"平均を計算"| E["標本平均1"]
C -->|"平均を計算"| F["標本平均2"]
D -->|"平均を計算"| G["標本平均N"]
E -->|"分布を描画"| H["正規分布に近似"]
F -->|"分布を描画"| H
G -->|"分布を描画"| H
4. Pythonによるシミュレーション
理論だけでなく、実際にプログラムを動かして確かめてみましょう。一様分布からデータを抽出し、その平均がどのように分布するかをシミュレーションします。
| |
このコードを実行すると、\(n=1\) の時は一様分布ですが、\(n\) が大きくなるにつれてヒストグラムが赤線の正規分布に近づいていくことが確認できます。
5. 中心極限定理の重要性と応用
中心極限定理が重要なのは、母集団の正確な分布がわからなくても、適用条件と標本サイズが十分であれば、標本平均の正規近似を仮説検定や信頼区間の構築に利用できるためです。小標本や裾の重い分布などでは、近似精度を別途確認する必要があります。
5.1 統計的推測の基礎
世論調査、品質管理、A/Bテストなど、私たちがデータから何かを推測するとき、その根拠の多くは中心極限定理に依存しています。
5.2 誤差の蓄積
測定誤差や自然界の多くのノイズも、多数の微小な独立した要因の和としてモデル化できるため、正規分布で近似できることがあります。正規分布はガウス分布とも呼ばれます。
6. さらなる深掘り：証明へのアプローチ
中心極限定理の厳密な証明には、特性関数やテイラー展開が用いられます。ここではその概略を紹介します。
特性関数 \(\phi_X(t) = E[e^{itX}]\) を用いると、独立な確率変数の和の特性関数は、それぞれの特性関数の積になります。標準化された変数 \(Z\) の特性関数を計算し、\(n \to \infty\) の極限をとると、標準正規分布の特性関数 \(e^{-t^2/2}\) に収束することが示されます。これにより、分布自体が正規分布に収束することが証明されます。
7. おわりに
中心極限定理は、混沌としたデータの背後に潜む秩序を示す、非常に美しい定理です。この定理を理解することで、データ分析や統計モデルの構築において、より深い洞察を得ることができるでしょう。
付録: 詳細な数学的背景と歴史
付録 1: 確率論における発展
中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール＝シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。
付録 2: 適用条件と定理の意味
本文で扱う基本形では、\(X_1,\ldots,X_n\) が独立同分布で、有限の平均 \(\mu\) と有限かつ正の分散 \(0<\sigma^2<\infty\) を持つことが必要です。「どんな分布でも」という説明は、この条件の範囲で理解してください。正規分布に近づくのは標準化した和や標本平均の分布であり、個々の観測値の分布が変わるわけではありません。
付録 3: 標準誤差と大数の法則
独立性により、標本平均の期待値と分散は次のようになります。標準誤差は標本平均の標準偏差であり、個々の観測値の標準偏差とは異なります。
\[ E[\bar X_n]=\mu,\qquad \operatorname{Var}(\bar X_n)=\frac{\sigma^2}{n},\qquad \operatorname{SE}(\bar X_n)=\frac{\sigma}{\sqrt n}. \]標本数を4倍にすると標準誤差は半分になります。大数の法則は標本平均が \(\mu\) に近づくことを述べ、中心極限定理はその周囲の揺らぎを \(\sqrt{n}\) 倍した分布の形を述べます。
付録 4: 特性関数による証明の補足
\(Y_i=(X_i-\mu)/\sigma\)、\(Z_n=n^{-1/2}\sum_{i=1}^nY_i\) とおきます。\(E[Y_i]=0\)、\(E[Y_i^2]=1\) なので、特性関数は原点の近くで次のように展開できます。
\[ \phi_Y(t)=E[e^{itY}]=1-\frac{t^2}{2}+o(t^2)\quad(t\to0). \]独立性から次式が得られます。極限は標準正規分布の特性関数なので、レヴィの連続性定理により分布収束が従います。特性関数と積率母関数は別物であり、この証明に積率母関数の存在は必要ありません。
\[ \phi_{Z_n}(t)=\left[\phi_Y\!\left(\frac{t}{\sqrt n}\right)\right]^n =\left[1-\frac{t^2}{2n}+o\!\left(\frac1n\right)\right]^n \longrightarrow e^{-t^2/2}. \]付録 5: 適用できない例と近似精度
コーシー分布には有限の平均も分散もなく、独立な標準コーシー変数の標本平均も標準コーシー分布のままです。また、すべての \(X_i\) が、正の分散を持つ同一の確率変数である場合は独立性がなく、平均をとってもばらつきは減りません。「\(n\ge30\) なら常に十分」という保証もありません。歪みや裾の重さによって必要な標本数は異なります。独立で同分布でない場合の拡張には、リンデベルグ条件やリャプノフ条件など、追加の条件を確認する必要があります。