Featured image of post 中心極限定理(Central Limit Theorem) - どんなデータも足し合わせると正規分布に近づく奇跡

中心極限定理(Central Limit Theorem) - どんなデータも足し合わせると正規分布に近づく奇跡

統計学における最も重要な定理の一つである中心極限定理について、直感的な理解から数学的な証明、そしてPythonを用いたシミュレーションまで詳細に解説します。

1. はじめに

データサイエンスや統計学を学ぶ上で、避けて通れないのが 中心極限定理 (Central Limit Theorem) です。この定理は、「どんな分布を持つデータであっても、その標本平均の分布は、サンプルサイズが大きくなるにつれて正規分布に近づく」という、まるで魔法のような性質を持っています。

本記事では、この中心極限定理について、直感的なイメージから厳密な数学的定義、そして実際の応用例までを幅広く解説します。

2. 中心極限定理とは何か?

中心極限定理(CLT)は、確率論および統計学における最も強力で驚くべき結果の一つです。簡単に言えば、無作為に抽出された多数の独立な確率変数の和(または平均)は、元の変数がどのような分布を持っていたとしても、正規分布に近似されるというものです。

2.1 直感的な理解

サイコロを考えてみましょう。1つのサイコロを振ったとき、出る目の分布は一様分布です。しかし、2つのサイコロを振ってその和をとると、分布は中央の7をピークとする三角形のようになります。さらにサイコロの数を増やしていくと、その和の分布は滑らかな釣鐘型の曲線、すなわち 正規分布 に近づいていきます。

2.2 数学的な定義

ある母集団から無作為に抽出された $n$ 個の標本 $X_1, X_2, \dots, X_n$ が互いに独立に同一の分布に従う(i.i.d.)とします。この母集団の平均(期待値)を $\mu$、分散を $\sigma^2$ とします。

標本平均を $\bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$ とすると、中心極限定理によれば、$n$ が十分に大きいとき、次のように標準化された変数 $Z$ は標準正規分布 $\mathcal{N}(0, 1)$ に収束します。

$$ Z = \frac{\bar{X} - \mu}{\frac{\sigma}{\sqrt{n}}} \xrightarrow{d} \mathcal{N}(0, 1) \text{ as } n \to \infty $$

ここで、$\xrightarrow{d}$ は分布収束を意味します。$\text{ as } n \to \infty$ はサンプルサイズが無限大に近づくことを示しています。

3. 中心極限定理の可視化

中心極限定理がどのように働くかを視覚的に理解するために、Mermaidを用いたプロセス図を示します。

  graph TD
    A["元の分布(非正規分布)"] -->|"サンプリング"| B["標本1"]
    A -->|"サンプリング"| C["標本2"]
    A -->|"サンプリング"| D["標本N"]
    B -->|"平均を計算"| E["標本平均1"]
    C -->|"平均を計算"| F["標本平均2"]
    D -->|"平均を計算"| G["標本平均N"]
    E -->|"分布を描画"| H["正規分布に近似"]
    F -->|"分布を描画"| H
    G -->|"分布を描画"| H

4. Pythonによるシミュレーション

理論だけでなく、実際にプログラムを動かして確かめてみましょう。一様分布からデータを抽出し、その平均がどのように分布するかをシミュレーションします。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
import numpy as np
import matplotlib.pyplot as plt

# 母集団のパラメータ(一様分布 [0, 1])
mu = 0.5
sigma = np.sqrt(1/12)

# シミュレーションの設定
sample_sizes = [1, 5, 30, 100]
num_simulations = 10000

# グラフの描画設定
fig, axes = plt.subplots(2, 2, figsize=(12, 8))
axes = axes.flatten()

for i, n in enumerate(sample_sizes):
    # 一様分布から n 個のサンプルを num_simulations 回抽出
    samples = np.random.uniform(0, 1, (num_simulations, n))
    
    # 各試行における標本平均を計算
    sample_means = np.mean(samples, axis=1)
    
    # ヒストグラムのプロット
    ax = axes[i]
    ax.hist(sample_means, bins=50, density=True, alpha=0.7, color='skyblue')
    ax.set_title(f"サンプルサイズ n={n}")
    
    # 理論的な正規分布曲線の追加
    x = np.linspace(mu - 4*sigma/np.sqrt(n), mu + 4*sigma/np.sqrt(n), 100)
    y = (1 / (np.sqrt(2 * np.pi) * (sigma/np.sqrt(n)))) * np.exp(-0.5 * ((x - mu) / (sigma/np.sqrt(n)))**2)
    ax.plot(x, y, 'r-', lw=2)

plt.tight_layout()
plt.show()

このコードを実行すると、$n=1$ の時は一様分布ですが、$n$ が大きくなるにつれてヒストグラムが赤線の正規分布に近づいていくことが確認できます。

5. 中心極限定理の重要性と応用

なぜ中心極限定理はそれほど重要なのでしょうか?それは、現実世界の多くのデータが正確にどのような分布をしているかを知らなくても、標本平均などの統計量を用いれば正規分布を仮定して仮説検定や信頼区間の構築ができるからです。

5.1 統計的推測の基礎

世論調査、品質管理、A/Bテストなど、私たちがデータから何かを推測するとき、その根拠の多くは中心極限定理に依存しています。

5.2 誤差の蓄積

測定誤差や自然界の多くのノイズも、多数の微小な独立した要因の和としてモデル化できるため、正規分布に従うことが多いです。これがガウス分布とも呼ばれる理由です。

6. さらなる深掘り:証明へのアプローチ

中心極限定理の厳密な証明には、特性関数(積率母関数)やテイラー展開が用いられます。ここではその概略を紹介します。

特性関数 $\phi_X(t) = E[e^{itX}]$ を用いると、独立な確率変数の和の特性関数は、それぞれの特性関数の積になります。標準化された変数 $Z$ の特性関数を計算し、$n \to \infty$ の極限をとると、標準正規分布の特性関数 $e^{-t^2/2}$ に収束することが示されます。これにより、分布自体が正規分布に収束することが証明されます。

7. おわりに

中心極限定理は、混沌としたデータの背後に潜む秩序を示す、非常に美しい定理です。この定理を理解することで、データ分析や統計モデルの構築において、より深い洞察を得ることができるでしょう。

付録: 詳細な数学的背景と歴史

付録 1: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 2: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 3: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 4: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 5: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 6: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 7: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 8: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 9: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 10: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 11: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 12: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 13: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 14: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 15: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 16: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 17: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 18: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 19: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 20: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 21: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 22: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 23: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 24: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 25: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 26: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 27: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 28: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 29: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

付録 30: 確率論における発展

中心極限定理の歴史は深く、アブラーム・ド・モアブルが二項分布の正規近似を示したことに端を発します。その後、ピエール=シモン・ラプラスによって拡張され、アレクサンドル・リャプノフによってより一般的な条件下での証明が与えられました。現代の確率論においては、リンデベルグ条件やリャプノフ条件など、様々な拡張が存在します。これらの条件は、個々の確率変数が全体の和に対して支配的な影響を持たないことを保証するものです。これにより、自然界や社会科学の多様な現象が、なぜ正規分布によって近似できるのかという根源的な問いに対する解答が与えられます。

Hugo で構築されています。
テーマ StackJimmy によって設計されています。