1. L’expérience de pensée qui a fracturé la rationalité : le paradoxe de Newcomb (1960–1969)

En 1960, le physicien théoricien William A. Newcomb, du Lawrence Livermore National Laboratory de l’Université de Californie, imagina un problème de décision d’une simplicité trompeuse qui allait ébranler les fondements mêmes de la théorie du choix rationnel. Introduit dans le monde académique par le philosophe de Harvard Robert Nozick dans son article fondateur de 1969, « Newcomb’s Problem and Two Principles of Choice » (publié dans les Essays in Honor of Carl G. Hempel), puis popularisé par Martin Gardner dans Scientific American en 1973 et 1974, ce paradoxe a divisé économistes, mathématiciens, physiciens et philosophes en deux camps irréconciliables.

Nozick résuma cette fracture intellectuelle par une formule restée célèbre :

« Pour presque tout le monde, ce qu’il faut faire est parfaitement clair et évident. La difficulté est que les gens semblent se diviser presque à parts égales sur le problème, une grande fraction de chaque camp pensant que l’autre moitié est tout simplement stupide. » — Robert Nozick (1969), “Newcomb’s Problem and Two Principles of Choice”

1.1 Le dispositif canonique : deux boîtes et le Prédicteur Oméga ($\Omega$)

Vous vous tenez devant une table sur laquelle reposent deux boîtes : la boîte transparente A et la boîte opaque B.

1. Boîte transparente A : En verre clair, elle contient visiblement et avec certitude $\$1,000$ en espèces.
2. Boîte opaque B : En acier scellé, son contenu est invisible. Vous savez qu’elle contient soit $\$1,000,000$ (un million de dollars), soit $$0$ (rien du tout).

À l’instant présent $t = 0$, vous devez choisir entre deux actions :

• Prendre une seule boîte (One-Boxing, $A_1$) : Renoncer à la boîte A et prendre uniquement la boîte opaque B.
• Prendre les deux boîtes (Two-Boxing, $A_2$) : Prendre à la fois la boîte A et la boîte B.

Le personnage central est un Prédicteur surhumain, Oméga ($\Omega$), dont les scanners cérébraux et les modèles de simulation neuro-computationnels ont prédit les choix humains avec une précision empiriquement vérifiée de $99\%$ ($p = 0,99$) sur des milliers d’essais antérieurs. Hier (à $t = -1$), $\Omega$ a prédit votre choix d’aujourd’hui et a préparé la boîte B selon la règle suivante :

• État du monde $S_1$ ($\text{Pred}_1$ : $\Omega$ a prédit que vous ne prendriez que la boîte B, $A_1$) : $\Omega$ a placé hier $\$1,000,000$ dans la boîte B.
• État du monde $S_2$ ($\text{Pred}_2$ : $\Omega$ a prédit que vous prendriez les deux boîtes, $A_2$) : $\Omega$ a laissé hier la boîte B vide ($\$0$).

La clôture causale du passé est strictement garantie : $\Omega$ est déjà reparti hier ; il n’existe aucune rétro-causalité ($A \not\to S$). Votre geste aujourd’hui à $t = 0$ ne peut modifier physiquement le contenu de la boîte B.

  flowchart TD
    D["Temps t = -2: Architecture neuronale & Disposition cognitive (D)"] -->|"t = -1: Scan & Simulation par Oméga"| S["Temps t = -1: Prédiction d'Oméga & État de B (S1: 1M$ / S2: 0$)"]
    D -->|"t = 0: Délibération consciente & Choix"| A["Temps t = 0: Action de l'agent (A1: Une boîte / A2: Deux boîtes)"]
    S -->|"Détermine le contenu de la boîte B"| Y["Gain final U(A, S)"]
    A -->|"A2 ajoute +1 000$ garantis de la boîte A"| Y
    S -.->|"Absence de rétro-causalité (A ↛ S)"| A

2. Pilier I : La théorie de la décision évidentielle (EDT) et l’argument du One-Boxing

Le fondement formel des partisans d’une seule boîte est la théorie de la décision évidentielle (Evidential Decision Theory, EDT), formulée par Richard C. Jeffrey dans The Logic of Decision (1965 ; 2e éd. 1983).

2.1 Utilité espérée conditionnelle et « valeur de nouvelle (News Value) »

Dans l’algèbre booléenne unifiée de Jeffrey, la désirabilité d’une action $A_i$ est mesurée par sa valeur de nouvelle (News Value), pondérée par la probabilité conditionnelle bayésienne $\mathbb{P}(S_j \mid A_i)$ :

Avec $\mathbb{P}(S_1 \mid A_1) = 0,99$, $\mathbb{P}(S_2 \mid A_1) = 0,01$ et $\mathbb{P}(S_1 \mid A_2) = 0,01$, $\mathbb{P}(S_2 \mid A_2) = 0,99$, on obtient :

De façon générale, pour une récompense $M$ dans B, une somme $k$ dans A et une fiabilité $p$ :

Dès que la fiabilité d’Oméga dépasse $50,05\%$, l’EDT prescrit de ne prendre qu’une seule boîte ($A_1$), d’où la célèbre réplique adressée aux partisans des deux boîtes : « Si vous êtes si intelligents, pourquoi n’êtes-vous pas riches ? » (If you’re so smart, why ain’t you rich?)

3. Pilier II : La théorie de la décision causale (CDT), la dominance stricte et le $do$-calcul de Pearl

Les fondateurs de la théorie de la décision causale (Causal Decision Theory, CDT) — Allan Gibbard et William Harper (1978), Brian Skyrms (1980), David Lewis (1981), James Joyce (1999) et Judea Pearl (2000) — démontrent que l’EDT confond corrélation diagnostique (valeur d’indice) et efficacité causale.

3.1 Principe de dominance stricte et conditionnels contrefactuels

Selon le principe de dominance stricte de Leonard Savage (1954), puisque l’état de la boîte B ($S_1$ ou $S_2$) est déjà fixé dans le passé et causalement indépendant de $A$, prendre les deux boîtes ($A_2$) rapporte strictement $+\$1,000$ de plus dans *chaque* état du monde ($1,001,000 > 1,000,000$ et $1,000 > 0$).

Gibbard et Harper (1978) ont remplacé $\mathbb{P}(S_j \mid A_i)$ par la probabilité du contrefactuel de Stalnaker-Lewis $\mathbb{P}(A_i \Box\!\to S_j)$, tandis que Judea Pearl (2000) a formalisé la CDT au moyen des modèles causaux structurels (SCM) et de l’opérateur d’intervention $do(A_i)$ :

3.2 La fourche à cause commune ($S \leftarrow D \to A$) et la chirurgie de graphe

Dans le graphe acyclique dirigé (DAG), votre disposition neuronale antérieure $D$ est une cause commune (Common-Cause Fork : $S \leftarrow D \to A$) de la prédiction d’Oméga hier $S = f_S(D, U_S)$ et de votre choix aujourd’hui $A = f_A(D, U_A)$.

  flowchart TD
    subgraph G_obs["1. Graphe observationnel G (EDT: chemin de porte dérobée A ← D → S ouvert)"]
        D1["Disposition neuronale D (Cause commune)"] -->|"f_S(D): corrélation 99%"| S1["État de la boîte B S (t = -1)"]
        D1 -->|"f_A(D): délibération"| A1["Action observée A (t = 0)"]
        S1 --> Y1["Gain Y"]
        A1 --> Y1
    end
    subgraph G_do["2. Graphe mutilé G_do(A) (CDT: flèche D → A coupée)"]
        D2["Disposition neuronale D (Cause commune)"] -->|"f_S(D)"| S2["État de la boîte B S (t = -1)"]
        DO["Intervention do(A = a)"] ==>|"Remplace f_A"| A2["Action fixée A = a (t = 0)"]
        S2 --> Y2["Gain Y"]
        A2 --> Y2
    end

Alors que le conditionnement observationnel $\mathbb{P}(S \mid A)$ ouvre le chemin de porte dérobée (back-door path) $A \leftarrow D \to S$, la chirurgie de graphe ($do(A_i)$) de Pearl coupe la flèche $D \to A$, ce qui entraîne :

4. Problèmes de Newcomb médicaux (la lésion du fumeur) et prédestination calviniste chez Max Weber

4.1 La « lésion du fumeur (The Smoking Lesion, Skyrms 1980) »

Inspiré par l’hypothèse constitutionnelle de Ronald Fisher, Brian Skyrms (1980) imagine qu’une lésion génétique congénitale $L$ provoque avec une probabilité de $99\%$ à la fois l’envie de fumer ($A_{\text{smoke}}$, plaisir $+1$) et un cancer du poumon mortel ($C$, utilité $-1\,000$), alors que le tabac lui-même est totalement inoffensif ($A_{\text{smoke}} \not\to C$).

• Dans cette fourche $C \leftarrow L \to A$, l’EDT calcule $\text{EU}_{\text{EDT}}(A_{\text{abstain}}) = -10$ contre $\text{EU}_{\text{EDT}}(A_{\text{smoke}}) = -989$ et vous ordonne superstitieusement de ne pas fumer afin de réduire la probabilité conditionnelle d’être né avec le gène $L$ !
• La CDT reconnaît via $\mathbb{P}(C \mid do(A)) = \mathbb{P}(C)$ que votre ADN est immuable et recommande rationnellement de fumer ($+1$).

4.2 Isomorphisme avec la prédestination calviniste analysée par Max Weber (1905)

Comme l’a souligné Nozick (1969), la doctrine de la double prédestination de Jean Calvin, analysée par Max Weber dans L’Éthique protestante et l’esprit du capitalisme (1904–1905), possède exactement la structure du paradoxe de Newcomb : Dieu a décrété de toute éternité qui fait partie des Élus ($S_1$) et des Réprouvés ($S_2$), sans qu’aucune œuvre humaine ($A_1$) puisse modifier ce décret ($A \not\to S$). Pourtant, les puritains ont pratiqué un ascétisme intramondain ($A_1$) acharné non comme cause du salut (causa salutis), mais comme signe diagnostique d’élection (cognoscendi ratio) au sein de la fourche $\text{Salut } S_1 \leftarrow \text{Grâce divine } D \to \text{Œuvres ascétiques } A_1$, maximisant ainsi $\mathbb{P}(S_1 \mid A_1)$ selon la logique exacte de l’EDT !

5. La « Tickle Defense » d’Ellery Eells et le dilemme du prisonnier jumeau de David Lewis

5.1 La « défense du chatouillement (Tickle Defense, 1982) » et la ratifiabilité

Pour sauver l’EDT de la lésion du fumeur, Ellery Eells (1982) soutint que la disposition $L$ ne cause l’acte $A$ qu’à travers une envie ou attitude propositionnelle consciente $T = (\mathcal{B}, \mathcal{D})$ ($C \leftarrow L \to T \to A$). Si l’agent connaît $T$ par introspection avant d’agir, le conditionnement sur $T$ fait écran (Screening-Off) entre $A$ et $L$ : $\mathbb{P}(C \mid A, T) = \mathbb{P}(C \mid T)$, réconciliant EDT et CDT. Toutefois, dans le problème de Newcomb, $\Omega$ prédit la résolution finale elle-même, et le critère de ratifiabilité (Ratifiability, Jeffrey 1983) montre que la décision $\text{Decide}(A_1)$ est non ratifiable, car une fois $\text{Decide}(A_1)$ fixé, basculer vers $A_2$ rapporte $+\$1,000$ de plus.

5.2 Le théorème d’isomorphisme de David Lewis : « Prisoners’ Dilemma Is a Newcomb Problem » (1979)

En 1979, David Lewis démontra que le dilemme du prisonnier à un coup joué contre un jumeau psychologique (ou un clone exécutant le même code source) est $100\%$ isomorphe au paradoxe de Newcomb :

• Coopérer ($C_{\text{PD}}$ : renoncer à $\$1,000$ pour offrir $$1,000,000$ à son jumeau) $\Longleftrightarrow$ One-Boxing ($A_1$).
• Trahir ($D_{\text{PD}}$ : empocher ses $+\$1,000$) $\Longleftrightarrow$ Two-Boxing ($A_2$). Puisqu'Oméga prédit votre choix en exécutant hier une simulation (un jumeau) de votre esprit, les deux jeux sont identiques. Lewis en conclut qu'il faut trahir / prendre les deux boîtes, tandis que Douglas Hofstadter (1983) introduisit la superrationalité (Superrationality) pour justifier la coopération mutuelle $(C_{\text{PD}}, C_{\text{PD}})$ et le One-Boxing ($A_1$).

6. Frontière de l’alignement de l’IA : la théorie de la décision fonctionnelle (FDT)

Pour des agents logiciels (IA) dont le code source peut être lu ou simulé à $100\%$ dans un bac à sable (sandbox), le prédicteur $\Omega$ est une réalité informatique quotidienne. En 2017, Eliezer Yudkowsky et Nate Soares (synthétisant la TDT et l’UDT de Wei Dai) ont formulé la théorie de la décision fonctionnelle (Functional Decision Theory, FDT).

6.1 Contrefactuels logiques : intervenir sur la fonction mathématique $\mathsf{F}$

La CDT traite l’action comme un événement physique local $A$ en $(x_0, t_0)$ et imagine le monde logiquement impossible où le même algorithme déterministe $\mathsf{F}(\mathcal{I})$ renvoie $A_1$ hier dans le simulateur d’Oméga et $A_2$ aujourd’hui. La FDT intervient directement sur la sortie de la fonction mathématique de décision $\mathsf{F}(\mathcal{I})$ :

1. Paradoxe de Newcomb : La prédiction d’Oméga $S = f_S(\mathsf{F}(\mathcal{I}), U_S)$ dépend fonctionnellement de $\mathsf{F}(\mathcal{I})$ ; l’intervention $do(\mathsf{F}(\mathcal{I}) = A_1)$ fixe simultanément la simulation et l’action présente sur $A_1$ $\implies$ la FDT prend une seule boîte ($A_1$) et gagne $\$1,000,000$ !
2. Lésion du fumeur : Le gène $L$ n’étant pas une simulation de $\mathsf{F}(\mathcal{I})$ ($C \leftarrow L \to \mathcal{I} \to \mathsf{F}(\mathcal{I}) \to A$), $do(\mathsf{F}(\mathcal{I}) = a)$ ne modifie pas la probabilité de cancer $\implies$ la FDT choisit de fumer ($A_{\text{smoke}}$) sans superstition !
3. Newcomb transparent (auto-stoppeur de Parfit) & équilibre de programme (théorème de Löb) : Même lorsque la boîte B est transparente et que le million de dollars est visible, la FDT/UDT optimise la politique globale $\mathsf{F}$ sans mise à jour myope et ne prend que la boîte B ; dans le dilemme du prisonnier à code source ouvert, FairBot utilise le théorème de Löb ($\square(\square P \to P) \to \square P$) pour accomplir une coopération mutuelle formellement prouvable.

6.2 Tableau comparatif : EDT vs CDT vs FDT/UDT

Références

• Nozick, R. (1969). “Newcomb’s Problem and Two Principles of Choice.” In Essays in Honor of Carl G. Hempel (pp. 114–146).
• Jeffrey, R. C. (1965 / 1983). The Logic of Decision. University of Chicago Press.
• Lewis, D. (1979). “Prisoners’ Dilemma Is a Newcomb Problem.” Philosophy & Public Affairs, 8(3), 235–240.
• Pearl, J. (2000 / 2009). Causality: Models, Reasoning, and Inference. Cambridge University Press.
• Yudkowsky, E., & Soares, N. (2017). “Functional Decision Theory: A New Theory of Instrumental Rationality.” arXiv:1710.05060.