1. Das Gedankenexperiment, das die Rationalität spaltete: Newcombs Paradoxon (1960–1969)

Im Jahr 1960 entwarf der theoretische Physiker William A. Newcomb am Lawrence Livermore National Laboratory der University of California ein scheinbar schlichtes Entscheidungsproblem, das die Grundfesten der modernen Rationalitätstheorie erschüttern sollte. Nachdem der Harvard-Philosoph Robert Nozick das Problem 1969 in seinem wegweisenden Aufsatz „Newcomb’s Problem and Two Principles of Choice“ (in der Festschrift für Carl G. Hempel) veröffentlichte und Martin Gardner es 1973/1974 in seinen Scientific American-Kolumnen weltweit bekannt machte, spaltete es Ökonomen, Mathematiker, Physiker und Philosophen in zwei unversöhnliche Lager.

Nozick beschrieb diese Spaltung mit den berühmten Worten:

„Für fast jeden ist es vollkommen klar und offensichtlich, was zu tun ist. Die Schwierigkeit besteht darin, dass sich die Menschen bei diesem Problem fast genau in zwei Hälften teilen, wobei große Teile jeweils glauben, die andere Hälfte verhalte sich schlicht albern.“ — Robert Nozick (1969), “Newcomb’s Problem and Two Principles of Choice”

1.1 Der kanonische Versuchsaufbau: Zwei Boxen und der Prädiktor Omega ($\Omega$)

Vor Ihnen auf einem Tisch stehen zwei Behälter: die transparente Box A und die undurchsichtige Box B.

1. Transparente Box A: Aus klarem Glas gefertigt; sie enthält sichtbar $\$1.000$ in bar.
2. Undurchsichtige Box B: Aus verschlossenem Stahl; sie enthält entweder $\$1.000.000$ (eine Million Dollar) oder $$0$ (nichts).

Zum gegenwärtigen Zeitpunkt $t = 0$ haben Sie genau zwei Handlungsoptionen:

• Ein-Box-Wahl (One-Boxing, $A_1$): Sie lassen die transparente Box A stehen und nehmen nur die undurchsichtige Box B.
• Zwei-Box-Wahl (Two-Boxing, $A_2$): Sie nehmen sowohl Box A als auch Box B.

Der zentrale Akteur im Hintergrund ist ein übermenschlicher Prädiktor Omega ($\Omega$), dessen hochauflösende Gehirnscans und Verhaltenssimulationen in Tausenden früheren Durchläufen eine empirisch belegte Vorhersagegenauigkeit von $99\%$ ($p = 0,99$) erreicht haben. Gestern (zum Zeitpunkt $t = -1$) hat $\Omega$ Ihre Entscheidung für heute prognostiziert und Box B nach folgender Regel befüllt:

• Weltzustand $S_1$ ($\text{Pred}_1$: $\Omega$ sagte voraus, dass Sie nur Box B nehmen, $A_1$): $\Omega$ legte gestern $\$1.000.000$ in Box B.
• Weltzustand $S_2$ ($\text{Pred}_2$: $\Omega$ sagte voraus, dass Sie beide Boxen nehmen, $A_2$): $\Omega$ ließ Box B gestern leer ($\$0$).

Es gilt die strikte kausale Abgeschlossenheit der Vergangenheit: $\Omega$ ist bereits gestern abgereist; es gibt keine Rückwärtskausalität (Retrokausalität, $A \not\to S$). Ihre heutige Handbewegung bei $t = 0$ kann den physischen Inhalt von Box B nicht mehr verändern.

  flowchart TD
    D["Zeit t = -2: Neuronale Architektur & Entscheidungsdisposition (D)"] -->|"t = -1: Scan & Simulation durch Omega"| S["Zeit t = -1: Omegas Vorhersage & Box-B-Zustand (S1: $1M / S2: $0)"]
    D -->|"t = 0: Bewusste Abwägung & Entscheidung"| A["Zeit t = 0: Handlung des Akteurs (A1: Eine Box / A2: Zwei Boxen)"]
    S -->|"Bestimmt Inhalt von Box B"| Y["Endauszahlung U(A, S)"]
    A -->|"A2 addiert sichere +$1.000 aus Box A"| Y
    S -.->|"Keine Rückwärtskausalität (A ↛ S)"| A

2. Pfeiler I: Evidenzbasierte Entscheidungstheorie (EDT) und das Argument für One-Boxing

Das formale Fundament der One-Boxer bildet die Evidenzbasierte Entscheidungstheorie (Evidential Decision Theory, EDT), entwickelt von Richard C. Jeffrey in seinem Klassiker The Logic of Decision (1965; 2. Aufl. 1983).

2.1 Bedingter Erwartungsnutzen und „Nachrichtenwert (News Value)“

In Jeffreys einheitlicher Boolescher Propositionenalgebra $\mathcal{F}$ bemisst sich der Wert einer Handlung $A_i$ nach ihrem evidenziellen Nachrichtenwert (Desirability), gewichtet mit der klassischen Bayesschen bedingten Wahrscheinlichkeit $\mathbb{P}(S_j \mid A_i)$:

Mit $\mathbb{P}(S_1 \mid A_1) = 0,99$, $\mathbb{P}(S_2 \mid A_1) = 0,01$ sowie $\mathbb{P}(S_1 \mid A_2) = 0,01$ und $\mathbb{P}(S_2 \mid A_2) = 0,99$ ergibt sich:

Allgemein gilt für eine Prämie $M$ in Box B, einen Betrag $k$ in Box A und eine Prognosegüte $p$:

Schon ab einer Vorhersagegenauigkeit von $50,05\%$ fordert die EDT zwingend One-Boxing ($A_1$) – untermauert durch den berühmten Spottvers gegen alle Two-Boxer: „If you’re so smart, why ain’t you rich?“ (Wenn ihr so klug seid, warum seid ihr dann nicht reich?)

3. Pfeiler II: Kausale Entscheidungstheorie (CDT), Dominanzprinzip und Judea Pearls $do$-Kalkül

Vertreter der Kausalen Entscheidungstheorie (Causal Decision Theory, CDT) – darunter Allan Gibbard und William Harper (1978), Brian Skyrms (1980), David Lewis (1981), James Joyce (1999) und Judea Pearl (2000) – entgegnen: Die EDT verwechselt diagnostische Evidenz (statistische Korrelation) mit kausaler Wirksamkeit (Kausalität).

3.1 Striktes Dominanzprinzip und kontrafaktische Konditionale

Nach Leonard Savages (1954) Prinzip der strikten Dominanz gilt: Da der Zustand von Box B ($S_1$ oder $S_2$) bereits in der Vergangenheit fixiert wurde und kausal unabhängig von Ihrer heutigen Handlung $A$ ist, dominiert $A_2$ die Option $A_1$ in jedem möglichen Weltzustand um exakt $+\$1.000$:

• Falls $S_1$ vorliegt ($\$1\text{M}$ in Box B): $U(A_2, S_1) = $1.001.000 > U(A_1, S_1) = $1.000.000$.
• Falls $S_2$ vorliegt ($\$0$ in Box B): $U(A_2, S_2) = $1.000 > U(A_1, S_2) = $0$.

Gibbard und Harper (1978) ersetzten daher $\mathbb{P}(S_j \mid A_i)$ durch die Wahrscheinlichkeit des nicht-rückwirkenden Stalnaker-Lewis-Kontrafaktuals $\mathbb{P}(A_i \Box\!\to S_j)$, während Judea Pearl (2000) im Rahmen Struktureller Kausalmodelle (SCM) den Interventionsoperator $do(A_i)$ einführte:

3.2 Die gemeinsame Ursache ($S \leftarrow D \to A$) und Graphen-Chirurgie

Im kausalen gerichteten azyklischen Graphen (DAG) bildet Ihre frühere neuronale Disposition $D$ eine gemeinsame Ursache (Common-Cause Fork: $S \leftarrow D \to A$) sowohl für Omegas gestrige Vorhersage $S = f_S(D, U_S)$ als auch für Ihre heutige Wahl $A = f_A(D, U_A)$.

  flowchart TD
    subgraph G_obs["1. Beobachtungsgraph G (EDT: Hintertürpfad A ← D → S offen)"]
        D1["Neuronale Disposition D (Gemeinsame Ursache)"] -->|"f_S(D): 99% Korrelation"| S1["Box-B-Zustand S (t = -1)"]
        D1 -->|"f_A(D): Abwägung"| A1["Beobachtete Wahl A (t = 0)"]
        S1 --> Y1["Auszahlung Y"]
        A1 --> Y1
    end
    subgraph G_do["2. Interventionsgraph G_do(A) (CDT: Pfeil D → A durchtrennt)"]
        D2["Neuronale Disposition D (Gemeinsame Ursache)"] -->|"f_S(D)"| S2["Box-B-Zustand S (t = -1)"]
        DO["Intervention do(A = a)"] ==>|"Ersetzt Strukturgleichung f_A"| A2["Gesetzte Wahl A = a (t = 0)"]
        S2 --> Y2["Auszahlung Y"]
        A2 --> Y2
    end

Während die Beobachtungsbedingung $\mathbb{P}(S \mid A)$ den nicht-kausalen Hintertürpfad (Back-door Path) $A \leftarrow D \to S$ öffnet, kappt Pearls Graphen-Chirurgie ($do(A_i)$) den Pfeil $D \to A$. Damit folgt zwingend:

4. Medizinische Newcomb-Probleme (Die Raucherläsion) und Max Webers calvinistische Prädestination

4.1 Skyrms’ „Raucherläsion (The Smoking Lesion, 1980)“

Aufbauend auf Ronald Fishers Konstitutionshypothese formulierte Brian Skyrms (1980) das Experiment der Raucherläsion: Angenommen, Rauchen selbst ist völlig unschädlich ($A_{\text{smoke}} \not\to C$), doch ein angeborener Gendefekt $L$ verursacht mit $99\%$ Wahrscheinlichkeit sowohl das Verlangen zu rauchen ($A_{\text{smoke}}$, Genussnutzen $+1$) als auch späteren tödlichen Lungenkrebs ($C$, Nutzen $-1.000$).

• In dieser Gabelung $C \leftarrow L \to A$ berechnet die EDT $\text{EU}_{\text{EDT}}(A_{\text{abstain}}) = -10$ gegenüber $\text{EU}_{\text{EDT}}(A_{\text{smoke}}) = -989$ und rät abergläubisch zum Rauchverzicht, nur um sich selbst einzureden, man sei ohne das Krebsgen $L$ geboren worden!
• Die CDT erkennt mittels $\mathbb{P}(C \mid do(A)) = \mathbb{P}(C)$, dass das eigene Genom unveränderlich feststeht, und empfiehlt rational den Genuss der Zigarette ($+1$).

4.2 Strukturelle Isomorphie mit Max Webers calvinistischer Prädestinationslehre (1905)

Wie Robert Nozick (1969) bemerkte, ist die von Max Weber in Die protestantische Ethik und der Geist des Kapitalismus (1904/1905) untersuchte calvinistische Prädestinationslehre ein reales historisches Newcomb-Problem: Gott hat vor Anbeginn der Zeit festgelegt, wer zu den Auserwählten (Elect, $S_1$) und wer zu den Verworfenen (Reprobate, $S_2$) gehört. Obwohl weltliche Askese und rastlose Berufsarbeit ($A_1$) Gottes Dekret kausal niemals ändern können ($A \not\to S$), nutzten die Puritaner ihre asketische Lebensführung nicht als Realstrecke zur Erlangung des Heils (causa salutis), sondern als diagnostischen Erkenntnisgrund (cognoscendi ratio) innerhalb der Gabelung $\text{Erwählung } S_1 \leftarrow \text{Göttliche Gnade } D \to \text{Asketische Werke } A_1$, um ihre subjektive Heilsgewissheit (certitudo salutis, $\mathbb{P}(S_1 \mid A_1) \approx 1$) gemäß der EDT zu maximieren!

5. Ellery Eells’ „Tickle Defense“ und David Lewis’ Gefangenendilemma-Isomorphie

5.1 Eells’ „Kitzel-Verteidigung (Tickle Defense, 1982)“ und Ratifizierbarkeit

Um die EDT vor der Raucherläsion zu retten, argumentierte Ellery Eells (1982), dass die genetische Disposition $L$ das Handeln $A$ nur über bewusste Wünsche und Überzeugungen – ein inneres „Kitzeln“ $T = (\mathcal{B}, \mathcal{D})$ – verursacht ($C \leftarrow L \to T \to A$). Kennt der Akteur seinen mentalen Zustand $T$ vor der Tat durch Introspektion, so schirmt $T$ nach der Markov-Bedingung (Screening-Off) die Korrelation ab: $\mathbb{P}(C \mid A, T) = \mathbb{P}(C \mid T)$, womit EDT und CDT zusammenfallen. In Newcombs Problem scheitert dies jedoch, sobald $\Omega$ den finalen Willensakt selbst vorhersagt; zudem zeigt Richard Jeffreys Kriterium der Ratifizierbarkeit (Ratifiability, 1983), dass die Entscheidung für eine Box ($\text{Decide}(A_1)$) unratifizierbar ist, da unter der Bedingung $\text{Decide}(A_1)$ der Wechsel zu $A_2$ sofort $+\$1.000$ mehr verspricht.

5.2 David Lewis’ Theorem: „Prisoners’ Dilemma Is a Newcomb Problem“ (1979)

1979 bewies David Lewis, dass ein einmaliges Gefangenendilemma gegen einen psychologischen Zwilling (oder einen identischen Software-Klon) exakt isomorph zu Newcombs Paradoxon ist:

• Kooperation ($C_{\text{PD}}$: Verzicht auf $\$1.000$, um dem Zwilling $$1.000.000$ zu geben) $\Longleftrightarrow$ One-Boxing ($A_1$).
• Defektion ($D_{\text{PD}}$: Einbehalten der eigenen $+\$1.000$) $\Longleftrightarrow$ Two-Boxing ($A_2$). Da $\Omega$ gestern nichts anderes tat, als eine Simulation (einen Zwilling) Ihres Geistes laufen zu lassen, sind beide Probleme identisch. Während Lewis daraus folgerte, man müsse in beiden Spielen defektieren bzw. zwei Boxen nehmen, begründete Douglas Hofstadter (1983) mit dem Konzept der Superrationalität (Superrationality) die symmetrische Wahl von $(C_{\text{PD}}, C_{\text{PD}})$ und One-Boxing ($A_1$).

6. Moderne KI-Alignment-Forschung: Funktionale Entscheidungstheorie (FDT)

Für moderne KI-Agenten, deren Quellcode von anderen Agenten eingesehen oder in einer Sandbox zu $100\%$ simuliert werden kann, ist Prädiktor $\Omega$ technische Realität. 2017 entwickelten Eliezer Yudkowsky und Nate Soares (aufbauend auf TDT und Wei Dais UDT) die Funktionale Entscheidungstheorie (Functional Decision Theory, FDT).

6.1 Logische Kontrafaktuale: Intervention auf die mathematische Funktion $\mathsf{F}$

CDT betrachtet die Handlung als isoliertes physisches Ereignis $A$ am Raumzeitpunkt $(x_0, t_0)$ und unterstellt bei $do(A = A_2)$ das logisch unmögliche Szenario, dass derselbe deterministische Algorithmus $\mathsf{F}(\mathcal{I})$ gestern im Simulator $A_1$ und heute im Raum $A_2$ ausgibt. FDT interveniert stattdessen auf den Output der mathematischen Entscheidungsfunktion $\mathsf{F}(\mathcal{I})$ selbst:

1. Newcombs Paradoxon: Da Omegas Vorhersage $S = f_S(\mathsf{F}(\mathcal{I}), U_S)$ funktional vom Output von $\mathsf{F}(\mathcal{I})$ abhängt, setzt $do(\mathsf{F}(\mathcal{I}) = A_1)$ sowohl die Simulation als auch die heutige Tat auf $A_1$ $\implies$ FDT wählt One-Boxing ($A_1$) und gewinnt $\$1.000.000$!
2. Raucherläsion: Da das angeborene Gen $L$ keine Simulation von $\mathsf{F}(\mathcal{I})$ ist ($C \leftarrow L \to \mathcal{I} \to \mathsf{F}(\mathcal{I}) \to A$), lässt $do(\mathsf{F}(\mathcal{I}) = a)$ die Krebswahrscheinlichkeit unberührt $\implies$ FDT raucht ($A_{\text{smoke}}$) ohne Aberglauben!
3. Transparentes Newcomb-Problem (Parfits Anhalter) & Programm-Gleichgewicht (Löbs Theorem): Selbst wenn Box B aus Klarglas besteht und die $\$1.000.000$ sichtbar sind, optimiert FDT/UDT die globale Policy-Funktion $\mathsf{F}$ *ex ante* und nimmt nur Box B; im Quellcode-Gefangenendilemma erreicht `FairBot` mittels Löbs Theorem ($\square(\square P \to P) \to \square P$) beweisbare wechselseitige Kooperation.

6.2 Vergleichstabelle: EDT vs. CDT vs. FDT/UDT

Literaturverzeichnis (References)

• Nozick, R. (1969). “Newcomb’s Problem and Two Principles of Choice.” In Essays in Honor of Carl G. Hempel (pp. 114–146).
• Jeffrey, R. C. (1965 / 1983). The Logic of Decision. University of Chicago Press.
• Lewis, D. (1979). “Prisoners’ Dilemma Is a Newcomb Problem.” Philosophy & Public Affairs, 8(3), 235–240.
• Pearl, J. (2000 / 2009). Causality: Models, Reasoning, and Inference. Cambridge University Press.
• Yudkowsky, E., & Soares, N. (2017). “Functional Decision Theory: A New Theory of Instrumental Rationality.” arXiv:1710.05060.