Théorème central limite - Le miracle où toutes les données se rapprochent d'une distribution normale lorsqu'elles sont additionnées

1. Introduction

Lorsque vous étudiez la science des données et les statistiques, un concept que vous ne pouvez pas éviter est le théorème central limite (CLT). Ce théorème possède la propriété presque magique selon laquelle « quelle que soit la distribution des données, la distribution des moyennes de l’échantillon se rapproche d’une distribution normale à mesure que la taille de l’échantillon augmente ».

Dans cet article, nous fournissons une explication complète du théorème central limite, des images intuitives aux définitions mathématiques rigoureuses et aux applications pratiques.

2. Qu’est-ce que le théorème central limite ?

Le théorème central limite (CLT) est l’un des résultats les plus puissants et les plus surprenants de la théorie des probabilités et des statistiques. En termes simples, la somme (ou la moyenne) d’un grand nombre de variables aléatoires indépendantes échantillonnées au hasard est approximée par une distribution normale, quelle que soit la distribution originale de ces variables.

2.1 Compréhension intuitive

Pensez aux dés. Lorsque vous lancez un seul dé, la répartition des résultats est uniforme. Cependant, lorsque vous lancez deux dés et calculez leur somme, la distribution devient triangulaire, culminant à 7. À mesure que vous augmentez le nombre de dés, la distribution de leur somme se rapproche d’une courbe lisse en forme de cloche, c’est-à-dire une distribution normale.

2.2 Définition mathématique

Supposons que les échantillons $n$ $X_1, X_2, \dots, X_n$ soient tirés au hasard dans une population et soient distribués de manière indépendante et identique (i.i.d.). Soit la moyenne de la population (valeur attendue) soit $\mu$ et la variance soit $\sigma^2$.

Si nous définissons la moyenne de l’échantillon comme $\bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$, alors selon le théorème central limite, lorsque $n$ est suffisamment grand, la variable standardisée suivante $Z$ converge vers la distribution normale standard $\mathcal{N}(0, 1)$ :

$$ Z = \frac{\bar{X} - \mu}{\frac{\sigma}{\sqrt{n}}} \xrightarrow{d} \mathcal{N}(0, 1) \text{ as } n \to \infty $$

Ici, $\xrightarrow{d}$ désigne la convergence de la distribution. $\text{ as } n \to \infty$ indique que la taille de l’échantillon s’approche de l’infini.

3. Visualisation du théorème central limite

Pour comprendre visuellement le fonctionnement du théorème central limite, voici un diagramme de processus utilisant Mermaid.

  graph TD
    A["Distribution initiale (non normale)"] -->|"Échantillonnage"| B["Échantillon 1"]
    A -->|"Échantillonnage"| C["Échantillon 2"]
    A -->|"Échantillonnage"| D["Échantillon N"]
    B -->|"Calculer la moyenne"| E["Moyenne de l’échantillon 1"]
    C -->|"Calculer la moyenne"| F["Moyenne de l’échantillon 2"]
    D -->|"Calculer la moyenne"| G["Moyenne de l’échantillon N"]
    E -->|"Tracer la distribution"| H["Se rapproche de la distribution normale"]
    F -->|"Tracer la distribution"| H
    G -->|"Tracer la distribution"| H

4. Simulation avec Python

Vérifions cela non seulement avec la théorie, mais en exécutant réellement un programme. Nous échantillonnerons les données d’une distribution uniforme et simulerons la façon dont les moyennes sont distribuées.

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
import numpy as np
import matplotlib.pyplot as plt

# Population parameters (Uniform distribution [0, 1])
mu = 0.5
sigma = np.sqrt(1/12)

# Simulation settings
sample_sizes = [1, 5, 30, 100]
num_simulations = 10000

# Graph drawing settings
fig, axes = plt.subplots(2, 2, figsize=(12, 8))
axes = axes.flatten()

for i, n in enumerate(sample_sizes):
    # Draw n samples from a uniform distribution, num_simulations times
    samples = np.random.uniform(0, 1, (num_simulations, n))
    
    # Calculate the sample mean for each trial
    sample_means = np.mean(samples, axis=1)
    
    # Plot the histogram
    ax = axes[i]
    ax.hist(sample_means, bins=50, density=True, alpha=0.7, color='skyblue')
    ax.set_title(f"Sample size n={n}")
    
    # Add the theoretical normal distribution curve
    x = np.linspace(mu - 4*sigma/np.sqrt(n), mu + 4*sigma/np.sqrt(n), 100)
    y = (1 / (np.sqrt(2 * np.pi) * (sigma/np.sqrt(n)))) * np.exp(-0.5 * ((x - mu) / (sigma/np.sqrt(n)))**2)
    ax.plot(x, y, 'r-', lw=2)

plt.tight_layout()
plt.show()

Lorsque vous exécutez ce code, vous pouvez confirmer que pour $n=1$, la distribution est uniforme, mais à mesure que $n$ augmente, l’histogramme se rapproche de la courbe de distribution normale rouge.

5. Importance et applications du théorème central limite

Pourquoi le théorème central limite est-il si important ? En effet, même sans connaître la distribution exacte des données du monde réel, nous pouvons supposer une distribution normale pour les statistiques telles que les moyennes d’échantillon, ce qui permet de tester des hypothèses et de construire des intervalles de confiance.

5.1 Fondement de l’inférence statistique

Lorsque nous faisons des déductions à partir de données – dans le cadre de sondages d’opinion, de contrôle qualité, de tests A/B, etc. – une grande partie de la justification repose sur le théorème central limite.

5.2 Accumulation d’erreurs

Les erreurs de mesure et de nombreux types de bruit dans la nature peuvent également être modélisés comme la somme de nombreux petits facteurs indépendants, c’est pourquoi ils suivent souvent une distribution normale. C’est aussi la raison pour laquelle on l’appelle distribution gaussienne.

6. Aller plus loin : approches de la preuve

La preuve rigoureuse du théorème central limite utilise des fonctions caractéristiques (fonctions génératrices de moments) et des développements de Taylor. Nous en présentons ici un aperçu.

En utilisant la fonction caractéristique $\phi_X(t) = E[e^{itX}]$, la fonction caractéristique de la somme des variables aléatoires indépendantes devient le produit de leurs fonctions caractéristiques individuelles. En calculant la fonction caractéristique de la variable standardisée $Z$ et en prenant la limite comme $n \to \infty$, on peut montrer qu’elle converge vers la fonction caractéristique de la distribution normale standard $e^{-t^2/2}$. Cela prouve que la distribution elle-même converge vers la distribution normale.

7. Conclusion

Le théorème central limite est un théorème extraordinairement beau qui révèle l’ordre caché derrière les données chaotiques. En comprenant ce théorème, vous serez en mesure d’acquérir des connaissances plus approfondies sur l’analyse des données et la construction de modèles statistiques.

Annexe : Contexte mathématique détaillé et historique

Annexe 1 : Développements en théorie des probabilités

L’histoire du théorème central limite est profonde et trouve son origine dans la démonstration par Abraham de Moivre de l’approximation normale de la distribution binomiale. Elle a ensuite été étendue par Pierre-Simon Laplace, et une preuve dans des conditions plus générales a été donnée par Aleksandr Lyapunov. Dans la théorie moderne des probabilités, diverses extensions existent, telles que la condition de Lindeberg et la condition de Lyapunov. Ces conditions garantissent qu’aucune variable aléatoire individuelle n’a une influence dominante sur la somme globale. Cela apporte une réponse à la question fondamentale de savoir pourquoi divers phénomènes dans les sciences naturelles et sociales peuvent être approximés par la distribution normale.

1. Introduction

2. Qu’est-ce que le théorème central limite ?

2.1 Compréhension intuitive

2.2 Définition mathématique

3. Visualisation du théorème central limite

4. Simulation avec Python

5. Importance et applications du théorème central limite

5.1 Fondement de l’inférence statistique

5.2 Accumulation d’erreurs

6. Aller plus loin : approches de la preuve

7. Conclusion

Annexe : Contexte mathématique détaillé et historique

Annexe 1 : Développements en théorie des probabilités

Annexe 2 : Développements en théorie des probabilités

Annexe 3 : Développements en théorie des probabilités

Annexe 4 : Développements en théorie des probabilités

Annexe 5 : Développements en théorie des probabilités

Annexe 6 : Développements en théorie des probabilités

Annexe 7 : Développements en théorie des probabilités

Annexe 8 : Développements en théorie des probabilités

Annexe 9 : Développements en théorie des probabilités

Annexe 10 : Développements en théorie des probabilités

Annexe 11 : Développements en théorie des probabilités

Annexe 12 : Développements en théorie des probabilités

Annexe 13 : Développements en théorie des probabilités

Annexe 14 : Développements en théorie des probabilités

Annexe 15 : Développements en théorie des probabilités

Annexe 16 : Développements en théorie des probabilités

Annexe 17 : Développements en théorie des probabilités

Annexe 18 : Développements en théorie des probabilités

Annexe 19 : Développements en théorie des probabilités

Annexe 20 : Développements en théorie des probabilités

Annexe 21 : Développements en théorie des probabilités

Annexe 22 : Développements en théorie des probabilités

Annexe 23 : Développements en théorie des probabilités

Annexe 24 : Développements en théorie des probabilités

Annexe 25 : Développements en théorie des probabilités

Annexe 26 : Développements en théorie des probabilités

Annexe 27 : Développements en théorie des probabilités

Annexe 28 : Développements en théorie des probabilités

Annexe 29 : Développements en théorie des probabilités

Annexe 30 : Développements en théorie des probabilités