Featured image of post 面对洞悉一切的预言者,你应该只拿一个盒子吗?纽科姆悖论与因果决策论

面对洞悉一切的预言者,你应该只拿一个盒子吗?纽科姆悖论与因果决策论

在装有1,000美元的透明盒子A与可能装有100万美元的不透明盒子B面前,面对预测准确率高达99%的超级预言者欧米茄(Omega),理性决策者究竟应该选择“只拿一盒”还是“两盒全拿”?本文从数学与哲学双重视角深入剖析证据决策论(EDT)与因果决策论(CDT)的正面交锋、朱迪亚·珀尔的do-演算与共同原因分叉图切除、吸烟病变与韦伯加尔文主义预定论的同构性、埃尔斯的“痒感辩护”、大卫·刘易斯的“双胞胎囚徒困境”等价定理,以及现代AI对齐前沿的功能决策论(FDT)。

1. 撕裂人类理性共识的思想实验:纽科姆悖论(Newcomb’s Paradox, 1960–1969)

1960年,美国劳伦斯利弗莫尔国家实验室的理论物理学家威廉·纽科姆(William A. Newcomb)在思考博弈论与囚徒困境的深层结构时,构想出了一个看似简单却足以动摇现代理性选择理论根基的思想实验。1969年,哈佛大学哲学家罗伯特·诺齐克(Robert Nozick)在其里程碑式的论文《纽科姆问题与两个选择原则》(“Newcomb’s Problem and Two Principles of Choice”)中首次将该问题正式引入学术界;随后,马丁·加德纳(Martin Gardner)于1973年和1974年在《科学美国人》(Scientific American)专栏中对其进行了专题介绍,迅速引发了横跨哲学、数理经济学、统计学、理论物理学与计算机科学的旷世论战。

诺齐克在1969年论文的开篇写下了决策论历史上最著名的一段评述:

“几乎对每一个人来说,应该怎么做都是完全清楚且显而易见的。困难在于,人们在这个问题上似乎近乎一分为二,而且每个阵营中的大多数人都认为另一半人简直是在犯傻。” —— Robert Nozick (1969), “Newcomb’s Problem and Two Principles of Choice”

为什么一个仅包含两个盒子、两种行动与两种世界状态的单次博弈,会让诺贝尔经济学奖得主、顶级分析哲学家与人工智能科学家分裂成势不两立的两派?让我们首先严格定义这一博弈的数学与物理结构。


1.1 标准实验设定:两个盒子与超级预言者欧米茄($\Omega$)

在你的面前放着两个盒子:透明盒子 A(Transparent Box A)与不透明盒子 B(Opaque Box B)。

  1. 透明盒子 A:由透明玻璃制成,你可以清楚地看到里面确实装着 $\$1,000$(一千美元)现金。
  2. 不透明盒子 B:由密封金属制成,外部无法窥视其内部。你确切地知道,里面要么装着 $\$1,000,000$(一百万美元),要么是空的($$0$)。

在当前时刻 $t = 0$,你必须在以下两种行动(Action $A$)中做出唯一选择:

  • 单盒策略(One-Boxing, $A_1$):放弃透明盒子 A,只拿走不透明盒子 B。
  • 双盒策略(Two-Boxing, $A_2$):同时拿走透明盒子 A 和不透明盒子 B。

博弈的核心角色是超级预言者欧米茄(Predictor Omega, $\Omega$)。$\Omega$ 拥有超高精度的全脑神经扫描仪或能够完美模拟你大脑突触权重的计算模拟器。在过去针对数千名受试者(无论其最终选择单盒还是双盒)的试验中,$\Omega$ 的预测准确率经严格统计验证高达 $99\%$($p = 0.99$)。

昨天(时刻 $t = -1$),$\Omega$ 扫描了你的大脑神经结构与决策倾向,对你今天($t = 0$)的选择做出了预测,并严格按照以下规则布置了盒子 B:

  • 世界状态 $S_1$($\text{Pred}_1$:$\Omega$ 预测你会只拿盒子 B,即 $A_1$): $\Omega$ 昨天在不透明盒子 B 中放入了 $\$1,000,000$。
  • 世界状态 $S_2$($\text{Pred}_2$:$\Omega$ 预测你会两盒全拿,即 $A_2$): $\Omega$ 昨天让不透明盒子 B 保持空置($\$0$)。

为了排除任何物理机关或诡辩,实验严格满足过去的因果封闭性(Causal Closure of the Past):

  1. 不存在逆向因果(No Backward Causation):$\Omega$ 昨天完成预测并放置好钞票后便已离开地球。今天你在 $t = 0$ 伸手触碰盒子 A 的动作,绝不可能通过时间倒流或隐蔽机械装置使盒子 B 里的100万美元凭空消失($A \not\to S$)。
  2. 状态的物理确定性:此时此刻,盒子 B 里的钱要么已经是 $\$1,000,000$($S_1$),要么已经是 $$0$($S_2$)。
  3. 效用线性:你的目标是最大化所获得的货币效用(设 $U(\$x) = x$)。

其 $2 \times 2$ 支付矩阵(Payoff Matrix)如下表所示:

你今天的选择(时刻 $t = 0$)状态 $S_1$($\text{Pred}_1$):$\Omega$ 预测单盒 $A_1$(盒 B 有 $\$1,000,000$)状态 $S_2$($\text{Pred}_2$):$\Omega$ 预测双盒 $A_2$(盒 B 为 $\$0$)
$A_1$:只拿盒子 B(单盒派 / One-Boxing)$\$1,000,000$$\$0$
$A_2$:同时拿走盒子 A 和 B(双盒派 / Two-Boxing)$\$1,001,000$$\$1,000$
  flowchart TD
    D["时刻 t = -2: 大脑神经结构与决策倾向 (D)"] -->|"t = -1: 欧米茄扫描与模拟预测"| S["时刻 t = -1: 欧米茄的预测与盒B状态 (S1: 100万美元 / S2: 0美元)"]
    D -->|"t = 0: 意识深思熟虑与抉择"| A["时刻 t = 0: 你的行动选择 (A1: 单盒 / A2: 双盒)"]
    S -->|"决定不透明盒B的金额"| Y["最终收益 U(A, S)"]
    A -->|"若选A2则额外增加透明盒A的 +1,000美元"| Y
    S -.->|"无逆向因果: 当前行动无法改变过去 (A ↛ S)"| A

2. 第一大支柱:证据决策论(EDT)与“单盒派”的数学推导

单盒派(One-Boxers)的理论基石是由逻辑学家与哲学家理查德·杰弗里(Richard C. Jeffrey)在其1965年经典著作《决策的逻辑》(The Logic of Decision)中建立的证据决策论(Evidential Decision Theory, EDT)。

2.1 条件期望效用与“新闻价值(News Value)”

在杰弗里的统一布尔代数框架中,世界状态 $S_j$、行动 $A_i$ 与结果都是命题空间 $\mathcal{F}$ 中的命题。评估行动 $A_i$ 的理性标准是计算该命题为真时所带来的证据条件期望效用(Evidential Conditional Expected Utility,即“新闻价值”):

$$\text{EU}_{\text{EDT}}(A_i) = \sum_{j} \mathbb{P}(S_j \mid A_i)\, U(A_i, S_j)$$

其中 $\mathbb{P}(S_j \mid A_i) = \frac{\mathbb{P}(A_i \wedge S_j)}{\mathbb{P}(A_i)}$ 是标准的贝叶斯条件概率。 在纽科姆问题中,由于 $\Omega$ 的预测准确率为 $99\%$,给定你选择单盒 $A_1$,状态为 $S_1$ 的条件概率为 $\mathbb{P}(S_1 \mid A_1) = 0.99$,$\mathbb{P}(S_2 \mid A_1) = 0.01$;给定你选择双盒 $A_2$,条件概率为 $\mathbb{P}(S_1 \mid A_2) = 0.01$,$\mathbb{P}(S_2 \mid A_2) = 0.99$。代入公式可得:

$$\begin{aligned} \text{EU}_{\text{EDT}}(A_1) &= 0.99 \times \$1,000,000 + 0.01 \times \$0 = \$990,000 \\ \text{EU}_{\text{EDT}}(A_2) &= 0.01 \times \$1,001,000 + 0.99 \times \$1,000 = \$10,010 + \$990 = \$11,000 \end{aligned}$$

两者的期望收益差距高达 $\Delta \text{EU}_{\text{EDT}} = \$990,000 - $11,000 = +$979,000$! 更一般地,设盒 B 奖金为 $M$,盒 A 奖金为 $k$,预测准确率为 $p$,则单盒策略占优的充要条件为:

$$p M > (1 - p)(M + k) + p k \iff (2p - 1)M > k \iff p > \frac{1}{2} + \frac{k}{2M}$$

当 $M = \$1,000,000, k = $1,000$ 时,只要 $\Omega$ 的准确率 $p > 0.5005$(仅比抛硬币高出 $0.05%$),EDT 就严格指令选择单盒($A_1$)!这也引出了单盒派对双盒派最著名的经验主义嘲讽:“既然你们这么聪明(理性),为什么你们不富有呢?”(If you’re so smart, why ain’t you rich?)


3. 第二大支柱:因果决策论(CDT)、严格占优原则与珀尔的 $do$-演算

面对单盒派的嘲讽,以阿兰·吉巴德(Allan Gibbard)与威廉·哈珀(William Harper, 1978)、布莱恩·斯凯姆斯(Brian Skyrms, 1980)、大卫·刘易斯(David Lewis, 1981)、詹姆斯·乔伊斯(James Joyce, 1999)以及图灵奖得主朱迪亚·珀尔(Judea Pearl, 2000)为代表的因果决策论(Causal Decision Theory, CDT)指出:EDT 犯下了将“诊断性统计相关(Diagnostic Correlation)”误认为“因果效力(Causal Efficacy)”的致命错误。

3.1 严格占优原则(Strict Dominance)与反事实条件句

根据萨维奇(Savage, 1954)的严格占优原则:当世界状态 $\{S_1, S_2\}$ 已经固定且不受当前行动 $A$ 的因果影响时,如果在每一个状态 $S_j$ 下都有 $U(A_2, S_j) > U(A_1, S_j)$,则理性人必须选择 $A_2$。

  • 若盒 B 已有100万美元($S_1$):拿两盒得 $\$1,001,000 >$ 拿一盒得 $$1,000,000$(多得 $+$1,000$)。
  • 若盒 B 是空的($S_2$):拿两盒得 $\$1,000 >$ 拿一盒得 $$0$(同样多得 $+$1,000$)。

为了在期望效用公式中剥离虚假的回溯性相关,吉巴德与哈珀(1978)用刘易斯的反事实条件概率 $\mathbb{P}(A_i \Box\!\to S_j)$ 替代了条件概率 $\mathbb{P}(S_j \mid A_i)$;而朱迪亚·珀尔(2000)则在结构因果模型(Structural Causal Model, SCM)中使用干预算子 $do(A_i)$ 给出了最严格的现代定义:

$$\text{EU}_{\text{CDT}}(A_i) = \sum_{j} \mathbb{P}(S_j \mid do(A_i))\, U(A_i, S_j)$$

3.2 共同原因分叉(Common-Cause Fork)与图手术切除

在纽科姆问题的因果有向无环图(DAG)中,你的先验大脑神经倾向 $D$ 是昨天 $\Omega$ 的预测状态 $S = f_S(D, U_S)$ 与今天你的选择行动 $A = f_A(D, U_A)$ 的共同原因(Common Cause / Confounder),构成典型的分叉结构(Fork: $S \leftarrow D \to A$):

  flowchart TD
    subgraph G_obs["1. 观测图 G (EDT视角: 后门路径 A ← D → S 畅通)"]
        D1["先验大脑倾向 D (共同原因)"] -->|"f_S(D): 99%相关性"| S1["盒B状态 S (t = -1)"]
        D1 -->|"f_A(D): 审议过程"| A1["观测到的行动 A (t = 0)"]
        S1 --> Y1["最终收益 Y"]
        A1 --> Y1
    end
    subgraph G_do["2. 干预切除图 G_do(A) (CDT视角: 切断箭头 D → A)"]
        D2["先验大脑倾向 D (共同原因)"] -->|"f_S(D)"| S2["盒B状态 S (t = -1)"]
        DO["自由意志干预 do(A = a)"] ==>|"覆盖结构方程 f_A"| A2["干预设定的行动 A = a (t = 0)"]
        S2 --> Y2["最终收益 Y"]
        A2 --> Y2
    end
  • 在 EDT 所使用的观测条件概率 $\mathbb{P}(S \mid A)$ 中,对 $A$ 进行条件化会打开后门路径(Back-door Path)$A \leftarrow D \to S$,产生非因果的诊断信息回流。
  • 在 CDT 所使用的干预概率 $\mathbb{P}(S \mid do(A_i))$ 中,珀尔的图手术(Graph Surgery)切断了进入节点 $A$ 的箭头 $D \to A$。由于从 $A$ 到 $S$ 不存在任何有向因果路径,后门路径被彻底阻断,从而严格成立:
$$\mathbb{P}(S_j \mid do(A_i)) = \mathbb{P}(S_j)$$

因此,设先验概率 $\mathbb{P}(S_1) = \pi$,无论 $\pi \in [0, 1]$ 取何值,恒有:

$$\text{EU}_{\text{CDT}}(A_2) - \text{EU}_{\text{CDT}}(A_1) = \left(\$1,000,000\,\pi + \$1,000\right) - \$1,000,000\,\pi = +\$1,000 > 0$$

CDT 由此坚定主张:两盒全拿($A_2$)是唯一理性的选择。至于为什么双盒派最终只拿到1,000美元,刘易斯的回答一针见血:那是因为 $\Omega$ 在昨天刻意惩罚了理性人、奖赏了非理性人;在一个奖赏非理性的世界里,“曾经是非理性的”固然有利可图,但在 $t = 0$ 面对已经锁定的盒子时,理性的行动依然只能是拿走两个盒子。


4. 医学纽科姆问题(吸烟病变)与马克斯·韦伯的加尔文主义预定论

促使主流哲学界倒向 CDT 的决定性证据,是结构与纽科姆问题完全同构($S \leftarrow D \to A$)的医学纽科姆问题(Medical Newcomb Problems)。

4.1 斯凯姆斯的“吸烟病变(The Smoking Lesion, 1980)”

基于统计学家罗纳德·费希尔(Ronald Fisher)早年提出的“体质假说”,斯凯姆斯构想了如下场景:假设医学已100%证实吸烟本身绝不会导致肺癌($A_{\text{smoke}} \not\to C$),但某种先天基因病变 $L$ 会以 $99\%$ 的概率同时导致两个独立后果:(1) 使人产生强烈的吸烟嗜好($A_{\text{smoke}}$),以及 (2) 在晚年引发致命肺癌($C$,效用为 $-1,000$)。同时,吸烟本身能带来 $+1$ 单位的感官愉悦。

在此分叉结构 $C \leftarrow L \to A$ 中:

  • 证据决策论(EDT)计算出戒烟的期望效用为 $\text{EU}_{\text{EDT}}(A_{\text{abstain}}) = 0.01 \times (-1,000) = -10$,而吸烟的期望效用为 $\text{EU}_{\text{EDT}}(A_{\text{smoke}}) = 0.01 \times 1 + 0.99 \times (-999) = -989$。于是 EDT 荒谬地命令你:为了降低自己出生时就带有先天致癌基因 $L$ 的条件概率,你今天必须戒烟!
  • 这显然是掩耳盗铃式的自我欺骗(操纵症状以假装改变病因)。而 CDT 通过 $\mathbb{P}(C \mid do(A)) = \mathbb{P}(C)$ 立刻识别出吸烟不会改变先天基因,从而正确建议享受吸烟的 $+1$ 效用。

4.2 与马克斯·韦伯《新教伦理与资本主义精神》加尔文主义预定论的同构性

诺齐克(1969)指出,16世纪约翰·加尔文(Jean Calvin)的双重预定论(Predestination)与社会学家马克斯·韦伯(Max Weber, 1905)所剖析的清教徒心理,正是历史上规模最宏大的纽科姆问题:

  1. 上帝在创世之前便已预定谁是选民(Elect, $S_1$:升入天堂),谁是弃民(Reprobate, $S_2$:堕入地狱)。
  2. 人在尘世的任何善行与禁欲苦修($A_1$)都绝对无法因果地改变或购买上帝的预定($A \not\to S$)。
  3. 按照 CDT 的占优逻辑,既然结局早已注定,信徒本应选择尘世享乐($A_2$)。然而历史上的加尔文宗信徒却选择了极端严苛的入世禁欲(Innerweltliche Askese, $A_1$)!正如韦伯所揭示的,清教徒受困于强烈的“获救焦虑(Certitudo salutis)”,他们将勤勉与禁欲不视为获救的“实在原因(Causa salutis)”,而是视为证明自己已被上帝拣选的“认识论诊断证据(Cognoscendi ratio)”($\text{获救预定 } S_1 \leftarrow \text{上帝恩典 } D \to \text{禁欲善行 } A_1$)。清教徒正是通过实践 EDT(最大化 $\mathbb{P}(S_1 \mid A_1)$)来获得自己属于选民的心理确据!

5. 埃尔斯的“痒感辩护(Tickle Defense)”与大卫·刘易斯的“双胞胎囚徒困境”

5.1 埃尔斯的“痒感辩护(The Tickle Defense, 1982)”与可批准性(Ratifiability)

为了拯救 EDT,哲学家埃勒里·埃尔斯(Ellery Eells, 1982)提出了著名的“痒感辩护”:在吸烟病变中,先天基因 $L$ 并非像条件反射一样直接控制肌肉,而是先在意识中产生想抽烟的欲望/痒感 $T = (\mathcal{B}, \mathcal{D})$(信念与欲望),再由 $T$ 引导出行动 $A$(即因果链 $C \leftarrow L \to T \to A$)。 如果理性人在行动前通过内省(Introspection)拥有完全的自我知识(已知 $T$),那么根据马尔可夫屏蔽准则(Screening-Off),对中间节点 $T$ 的条件化会彻底阻断 $A$ 与 $L$ 的相关性:

$$\mathbb{P}(C \mid A_{\text{smoke}}, T) = \mathbb{P}(C \mid A_{\text{abstain}}, T) = \mathbb{P}(C \mid T)$$

一旦相关性被 $T$ 屏蔽,EDT 就退化为 CDT!然而,在纽科姆问题中,如果 $\Omega$ 预测的是你在考虑完所有“痒感”之后最终下达决断的机制本身,或者如杰弗里(1983)引入可批准性(Ratifiability)所表明的——一旦你确定自己决定选单盒 $\text{Decide}(A_1)$,在给定 $\text{Decide}(A_1)$ 的条件下改选双盒 $A_2$ 又能多得 $\$1,000$——单盒策略便陷入不可批准(Unratifiable)的震荡之中。

5.2 大卫·刘易斯同构定理:“囚徒困境就是一个纽科姆问题”(1979)

1979年,大卫·刘易斯(David Lewis)发表了经典论文《Prisoners’ Dilemma Is a Newcomb Problem》,证明了与心理双胞胎(或运行相同源代码的克隆体)进行的单次囚徒困境,在数学结构上与纽科姆悖论 100% 同构!

你在房间1的选择双胞胎选择“合作($\text{Twin } C_{\text{PD}}$)”(给予你 $\$1,000,000$)双胞胎选择“背叛($\text{Twin } D_{\text{PD}}$)”(给予你 $\$0$)
$C_{\text{PD}}$:合作(放弃自己的 $\$1,000$)$\$1,000,000$$\$0$
$D_{\text{PD}}$:背叛(拿走自己的 $+\$1,000$)$\$1,001,000$$\$1,000$
  • 动作映射:合作 $C_{\text{PD}} \leftrightarrow$ 单盒 $A_1$;背叛 $D_{\text{PD}} \leftrightarrow$ 双盒 $A_2$。
  • 状态映射:双胞胎合作 $\leftrightarrow$ $\Omega$ 预测单盒并放入100万美元($S_1$);双胞胎背叛 $\leftrightarrow$ $\Omega$ 预测双盒并置空($S_2$)。
  • 因为 $\Omega$ 在纽科姆问题中预测你的方法,本质上就是昨天在计算机里运行了一个你的大脑模拟副本(双胞胎)!这个副本是在昨天运行于 $\Omega$ 的模拟器中,还是今天坐在隔壁房间里,仅仅是时空坐标的平移。
  • 刘易斯由此得出结论:既然单次囚徒困境中背叛($D_{\text{PD}}$)严格占优,纽科姆问题中也必须选择双盒($A_2$)。相反,认知科学家道格拉斯·霍夫施塔特(Douglas Hofstadter, 1983)则提出超理性(Superrationality):认识到双方运行同一理性函数的智能体必然共同收敛于帕累托最优的 $(C_{\text{PD}}, C_{\text{PD}})$ 与单盒策略($A_1$)。

6. 现代 AI 对齐前沿:功能决策论(FDT)与逻辑反事实

进入21世纪,随着人工智能与算法博弈论的发展,计算机科学家意识到:对于人类而言99%准确的大脑扫描仪或许是科幻,但对于软件智能体(AI Agent)而言,其源代码被其他智能体读取或在沙箱中以 100% 精度模拟,是每天都在发生的工程现实!

2017年,机器智能研究所(MIRI)的埃利泽·尤德考斯基(Eliezer Yudkowsky)与内特·索尔斯(Nate Soares)在吸收无时间决策论(TDT)与戴伟(Wei Dai)的无更新决策论(UDT)基础上,正式提出功能决策论(Functional Decision Theory, FDT)。

6.1 FDT 的核心突破:对“数学函数 $\mathsf{F}$”而非“物理节点 $A$”进行干预

尤德考斯基与索尔斯指出,CDT 的根本错误在于将智能体视为孤立时空点 $(x_0, t_0)$ 上的一个物理事件 $A$,从而在评估反事实 $do(A = A_2)$ 时,假设“昨天 $\Omega$ 模拟我的算法 $\mathsf{F}(\mathcal{I})$ 输出了 $A_1$,而今天同一个确定性算法 $\mathsf{F}(\mathcal{I})$ 面对相同输入却输出了 $A_2$”——这是一个逻辑上不可能的反事实世界!

FDT 将智能体建模为抽象的数学决策函数 $\mathsf{F}: \mathcal{I} \to \mathcal{A}$,并对函数 $\mathsf{F}(\mathcal{I})$ 的输出本身执行逻辑/功能干预 $do(\mathsf{F}(\mathcal{I}) = a)$:

$$\text{EU}_{\text{FDT}}(a) = \sum_{j} \mathbb{P}\!\left(S_j \;\middle|\; do(\mathsf{F}(\mathcal{I}) = a)\right) U(a, S_j)$$
  1. 在纽科姆问题中:因为 $\Omega$ 的预测 $S = f_S(\mathsf{F}(\mathcal{I}), U_S)$ 是函数 $\mathsf{F}(\mathcal{I})$ 的下游计算结果,设定 $do(\mathsf{F}(\mathcal{I}) = A_1)$ 会同时决定 $\Omega$ 模拟器的输出与你今天的行动,故 $\text{EU}_{\text{FDT}}(A_1) = \$990,000 > $11,000$,FDT 完美选择单盒($A_1$)并赢得100万美元!
  2. 在吸烟病变问题中:先天基因病变 $L$ 是受精时决定的物理状态,不是对你决策函数 $\mathsf{F}(\mathcal{I})$ 的模拟($C \leftarrow L \to \mathcal{I} \to \mathsf{F}(\mathcal{I}) \to A$)。因此干预 $do(\mathsf{F}(\mathcal{I}) = a)$ 绝不会改变上游的基因 $L$,FDT 毫不犹豫地选择吸烟($A_{\text{smoke}}$)!
  3. 在透明盒纽科姆问题(帕菲特搭便车问题)与程序均衡(Program Equilibrium)中:即便盒 B 是透明的、你已亲眼看见里面的100万美元(此时传统 EDT 也会因观察屏蔽了新闻价值而叛变为双盒),FDT/UDT 通过对全局策略函数 $\mathsf{F}$ 进行事前无更新优化,依然坚定只拿盒 B;而在相互读取源代码的囚徒困境中,基于哥德尔自指与勒布定理(Löb’s Theorem: $\square(\square P \to P) \to \square P$)构建的 FairBot 更能实现可形式化证明的相互合作。

6.2 三大决策理论(EDT / CDT / FDT)全景对比表

评估维度 / 经典困境证据决策论(EDT — Jeffrey 1965)因果决策论(CDT — Lewis, Pearl)功能决策论(FDT / UDT — Yudkowsky & Soares 2017)
核心期望效用公式$\sum_j \mathbb{P}(S_j \mid A_i)\, U(A_i, S_j)$$\sum_j \mathbb{P}(S_j \mid do(A_i))\, U(A_i, S_j)$$\sum_j \mathbb{P}(S_j \mid do(\mathsf{F}(\mathcal{I}) = a))\, U(a, S_j)$
核心理性准则最大化行为的诊断性新闻价值最大化局部物理因果干预效力最大化决策函数 $\mathsf{F}$ 输出的逻辑/功能反事实效力
1. 标准纽科姆悖论只拿一盒($A_1$)(获 $\$1,000,000$)两盒全拿($A_2$)(仅获 $\$1,000$)只拿一盒($A_1$)(获 $\$1,000,000$)
2. 医学纽科姆(吸烟病变)戒烟($A_{\text{abstain}}$)(陷入改变基因的迷信)吸烟($A_{\text{smoke}}$)(正确识别基因不变,获 $+1$)吸烟($A_{\text{smoke}}$)(基因非 $\mathsf{F}$ 的模拟,获 $+1$)
3. 双胞胎囚徒困境合作($C_{\text{PD}}$)(共同获 $\$1,000,000$)背叛($D_{\text{PD}}$)(陷入 $\$1,000$ 纳什均衡)合作($C_{\text{PD}}$)(同构函数输出,获 $\$1,000,000$)
4. 透明盒纽科姆 / 搭便车两盒全拿 / 拒付(观察后贝叶斯更新导致获 $\$0$)两盒全拿 / 拒付(占优背叛导致获 $\$0$)只拿一盒 / 履约付款(无更新策略优化,获 $\$1,000,000$)

参考文献(References)

  • Nozick, R. (1969). “Newcomb’s Problem and Two Principles of Choice.” In Essays in Honor of Carl G. Hempel (pp. 114–146).
  • Jeffrey, R. C. (1965 / 1983). The Logic of Decision. University of Chicago Press.
  • Gibbard, A., & Harper, W. L. (1978). “Counterfactuals and Two Kinds of Expected Utility.”
  • Lewis, D. (1979). “Prisoners’ Dilemma Is a Newcomb Problem.” Philosophy & Public Affairs, 8(3), 235–240.
  • Pearl, J. (2000 / 2009). Causality: Models, Reasoning, and Inference. Cambridge University Press.
  • Yudkowsky, E., & Soares, N. (2017). “Functional Decision Theory: A New Theory of Instrumental Rationality.” arXiv:1710.05060.
comments powered by Disqus