Перед лицом всевидящего Предсказателя: стоит ли брать только одну коробку? Парадокс Ньюкома и каузальная теория принятия решений

1. Мысленный эксперимент, расколовший рациональность: парадокс Ньюкома (1960–1969)

В 1960 году физик-теоретик Уильям Ньюком (William A. Newcomb) из Ливерморской национальной лаборатории имени Лоуренса Калифорнийского университета сформулировал обманчиво простую задачу выбора, которой суждено было потрясти основы современной теории рационального выбора. Введенный в научный оборот гарвардским философом Робертом Нозиком (Robert Nozick) в его знаменитой статье 1969 года «Newcomb’s Problem and Two Principles of Choice» и популяризированный Мартином Гарднером на страницах Scientific American (1973, 1974), этот парадокс расколол экономистов, математиков, физиков и аналитических философов на два непримиримых лагеря.

Нозик описал этот раскол в ставшем классическим вступлении:

«Почти для каждого совершенно ясно и очевидно, что следует делать. Трудность заключается в том, что люди делятся по этому вопросу почти поровну, причем значительная часть каждой половины считает противоположную половину просто глупой.» — Robert Nozick (1969), “Newcomb’s Problem and Two Principles of Choice”

1.1 Каноническая постановка задачи: две коробки и Предсказатель Омега ($\Omega$)

Перед вами на столе находятся две коробки: прозрачная коробка A и непрозрачная коробка B.

Прозрачная коробка A: сделана из прозрачного стекла; в ней отчетливо видны $\$1,000$ наличными.
Непрозрачная коробка B: сделана из запечатанной стали; вы точно знаете, что внутри лежит либо $\$1,000,000$ (один миллион долларов), либо $$0$ (пусто).

В настоящий момент времени $t = 0$ вам необходимо выбрать одно из двух действий:

Взять одну коробку (One-Boxing, $A_1$): отказаться от прозрачной коробки A и взять только непрозрачную коробку B.
Взять две коробки (Two-Boxing, $A_2$): взять и коробку A, и коробку B.

Ключевая фигура эксперимента — сверхчеловеческий Предсказатель Омега ($\Omega$), чьи нейросканеры и вычислительные симуляции мозга предсказывали выбор тысяч предыдущих испытуемых с эмпирически подтвержденной точностью $99\%$ ($p = 0,99$). Вчера (в момент $t = -1$) $\Omega$ предсказал ваш сегодняшний выбор и подготовил коробку B по строгому правилу:

Состояние мира $S_1$ ($\text{Pred}_1$: $\Omega$ предсказал, что вы возьмете только коробку B, $A_1$): вчера $\Omega$ положил в коробку B $\$1,000,000$.
Состояние мира $S_2$ ($\text{Pred}_2$: $\Omega$ предсказал, что вы возьмете обе коробки, $A_2$): вчера $\Omega$ оставил коробку B пустой ($\$0$).

Строго гарантируется каузальная замкнутость прошлого: $\Omega$ уже покинул планету вчера; обратная причинность (ретрокаузальность, $A \not\to S$) физически невозможна. Ваше движение руки сегодня при $t = 0$ никак не может изменить содержимое коробки B.

Ваш выбор сегодня (при $t = 0$)	Состояние $S_1$ ($\text{Pred}_1$): $\Omega$ предсказал $A_1$ (в коробке B лежит $\$1,000,000$)	Состояние $S_2$ ($\text{Pred}_2$): $\Omega$ предсказал $A_2$ (в коробке B лежит $\$0$)
$A_1$: Взять только коробку B (One-Boxing)	$\$1,000,000$	$\$0$
$A_2$: Взять коробки A и B (Two-Boxing)	$\$1,001,000$	$\$1,000$

  flowchart TD
    D["Время t = -2: Нейронная архитектура и склонности (D)"] -->|"t = -1: Сканирование и симуляция Омегой"| S["Время t = -1: Прогноз Омеги и состояние коробки B (S1: $1M / S2: $0)"]
    D -->|"t = 0: Сознательное обдумывание и выбор"| A["Время t = 0: Действие агента (A1: Одна коробка / A2: Две коробки)"]
    S -->|"Определяет содержимое коробки B"| Y["Итоговый выигрыш U(A, S)"]
    A -->|"A2 добавляет гарантированные +$1 000 из коробки A"| Y
    S -.->|"Нет обратной причинности (A ↛ S)"| A

2. Столп I: Эвиденциальная теория принятия решений (EDT) и аргумент «однокоробочников»

Формальным фундаментом сторонников одной коробки является эвиденциальная теория принятия решений (Evidential Decision Theory, EDT), разработанная Ричардом Джеффри (Richard C. Jeffrey) в классической монографии The Logic of Decision (1965; 2-е изд. 1983).

2.1 Условная ожидаемая полезность и «новостная ценность (News Value)»

В единой булевой алгебре высказываний Джеффри ценность действия $A_i$ определяется его новостной ценностью (News Value), взвешенной по стандартной байесовской условной вероятности $\mathbb{P}(S_j \mid A_i)$:

\[\text{EU}_{\text{EDT}}(A_i) = \sum_{j} \mathbb{P}(S_j \mid A_i)\, U(A_i, S_j)\]

Поскольку $\mathbb{P}(S_1 \mid A_1) = 0,99$, $\mathbb{P}(S_2 \mid A_1) = 0,01$, а $\mathbb{P}(S_1 \mid A_2) = 0,01$, $\mathbb{P}(S_2 \mid A_2) = 0,99$, получаем:

\[\begin{aligned} \text{EU}_{\text{EDT}}(A_1) &= 0,99 \times \$1\,000\,000 + 0,01 \times \$0 = \$990\,000 \\ \text{EU}_{\text{EDT}}(A_2) &= 0,01 \times \$1\,001\,000 + 0,99 \times \$1\,000 = \$10\,010 + \$990 = \$11\,000 \end{aligned}\]

В общем случае при призе $M$ в коробке B, сумме $k$ в коробке A и точности $p$:

\[\text{EU}_{\text{EDT}}(A_1) > \text{EU}_{\text{EDT}}(A_2) \iff p M > (1-p)(M+k) + pk \iff p > \frac{1}{2} + \frac{k}{2M} = 0,5005\]

Как только точность Омеги превышает $50,05\%$, EDT предписывает брать одну коробку ($A_1$), рождая знаменитую насмешку над «двухкоробочниками»: «Если вы такие умные, то почему вы не богатые?» (If you’re so smart, why ain’t you rich?)

3. Столп II: Каузальная теория принятия решений (CDT), строгое доминирование и $do$-исчисление Перла

Создатели каузальной теории принятия решений (Causal Decision Theory, CDT) — Аллан Гиббард и Уильям Харпер (1978), Брайан Скайрмс (1980), Дэвид Льюис (1981), Джеймс Джойс (1999) и лауреат премии Тьюринга Джуда Перл (2000) — показали, что EDT смешивает диагностическую корреляцию (статистическую улику) с причинной эффективностью (каузальным контролем).

3.1 Принцип строгого доминирования и контрфактические условные предложения

Согласно принципу строгого доминирования Леонарда Сэвиджа (1954), поскольку состояние коробки B ($S_1$ или $S_2$) уже зафиксировано в прошлом и причинно не зависит от $A$, выбор обеих коробок ($A_2$) приносит строго на $+\$1,000$ больше в *любом* состоянии мира ($1,001,000 > 1,000,000$ и $1,000 > 0$).

Гиббард и Харпер (1978) заменили $\mathbb{P}(S_j \mid A_i)$ вероятностью контрфактического условия Сталнакера—Льюиса $\mathbb{P}(A_i \Box\!\to S_j)$, а Джуда Перл (2000) формализовал CDT через структурные каузальные модели (SCM) и оператор вмешательства (интервенции) $do(A_i)$:

\[\text{EU}_{\text{CDT}}(A_i) = \sum_{j} \mathbb{P}(S_j \mid do(A_i))\, U(A_i, S_j)\]

3.2 Вилка общей причины ($S \leftarrow D \to A$) и хирургия графа

В ориентированном ациклическом графе (DAG) ваша прошлая нейронная диспозиция $D$ является общей причиной (Common-Cause Fork: $S \leftarrow D \to A$) как вчерашнего прогноза Омеги $S = f_S(D, U_S)$, так и вашего сегодняшнего выбора $A = f_A(D, U_A)$.

  flowchart TD
    subgraph G_obs["1. Наблюдательный граф G (EDT: обходной путь A ← D → S открыт)"]
        D1["Нейронная диспозиция D (Общая причина)"] -->|"f_S(D): корреляция 99%"| S1["Состояние коробки B S (t = -1)"]
        D1 -->|"f_A(D): обдумывание"| A1["Наблюдаемое действие A (t = 0)"]
        S1 --> Y1["Выигрыш Y"]
        A1 --> Y1
    end
    subgraph G_do["2. Усеченный граф интервенции G_do(A) (CDT: стрелка D → A удалена)"]
        D2["Нейронная диспозиция D (Общая причина)"] -->|"f_S(D)"| S2["Состояние коробки B S (t = -1)"]
        DO["Интервенция do(A = a)"] ==>|"Заменяет f_A"| A2["Заданное действие A = a (t = 0)"]
        S2 --> Y2["Выигрыш Y"]
        A2 --> Y2
    end

В то время как условная вероятность наблюдения $\mathbb{P}(S \mid A)$ открывает тыловой путь (back-door path) $A \leftarrow D \to S$, хирургия графа ($do(A_i)$) Перла рассекает стрелку $D \to A$, откуда строго следует:

\[\mathbb{P}(S_j \mid do(A_i)) = \mathbb{P}(S_j) \implies \text{EU}_{\text{CDT}}(A_2) - \text{EU}_{\text{CDT}}(A_1) = +\$1\,000 > 0\]

4. Медицинские задачи Ньюкома («поражение курильщика») и кальвинистское предопределение у Макса Вебера

4.1 «Поражение курильщика (The Smoking Lesion, Skyrms 1980)»

Опираясь на конституциональную гипотезу Рональда Фишера, Брайан Скайрмс (1980) предложил задачу о поражении курильщика: пусть курение само по себе абсолютно безвредно ($A_{\text{smoke}} \not\to C$), но врожденная генетическая мутация $L$ с вероятностью $99\%$ вызывает одновременно тягу к курению ($A_{\text{smoke}}$, удовольствие $+1$) и смертельный рак легких ($C$, полезность $-1\,000$).

В вилке $C \leftarrow L \to A$ теория EDT вычисляет $\text{EU}_{\text{EDT}}(A_{\text{abstain}}) = -10$ против $\text{EU}_{\text{EDT}}(A_{\text{smoke}}) = -989$ и суеверно требует отказаться от курения, чтобы снизить условную вероятность того, что вы родились с геном рака $L$!
Теория CDT через $\mathbb{P}(C \mid do(A)) = \mathbb{P}(C)$ понимает, что ДНК неизменна, и рационально рекомендует курить ($+1$).

4.2 Структурный изоморфизм с кальвинистским предопределением у Макса Вебера (1905)

Как отметил Нозик (1969), доктрина двойного предопределения Жана Кальвина, проанализированная Максом Вебером в труде «Протестантская этика и дух капитализма» (1904–1905), представляет собой теологическую задачу Ньюкома: Бог предвечно определил, кто принадлежит к Избранным ($S_1$), а кто — к Осужденным ($S_2$), и никакие земные дела ($A_1$) не могут каузально изменить этот вердикт ($A \not\to S$). Тем не менее пуритане практиковали суровую внутримирскую аскезу ($A_1$) не как причину спасения (causa salutis), а как диагностический признак избранности (cognoscendi ratio) внутри вилки $\text{Спасение } S_1 \leftarrow \text{Божья благодать } D \to \text{Аскетический труд } A_1$, максимизируя $\mathbb{P}(S_1 \mid A_1)$ в точном соответствии с EDT!

5. «Защита щекоткой» Эллери Иллса и изоморфизм дилеммы заключенного Дэвида Льюиса

5.1 «Защита щекоткой (Tickle Defense, 1982)» и ратифицируемость

Чтобы спасти EDT от «поражения курильщика», Эллери Иллс (Ellery Eells, 1982) указал, что ген $L$ вызывает действие $A$ лишь через посредство сознательного желания или «щекотки» $T = (\mathcal{B}, \mathcal{D})$ ($C \leftarrow L \to T \to A$). Если агент знает $T$ посредством интроспекции до совершения поступка, условие по $T$ экранирует (Screening-Off) корреляцию между $A$ и $L$: $\mathbb{P}(C \mid A, T) = \mathbb{P}(C \mid T)$, примиряя EDT с CDT. Однако в задаче Ньюкома $\Omega$ предсказывает сам финальный волевой акт, а критерий ратифицируемости (Ratifiability, Jeffrey 1983) показывает, что решение взять одну коробку ($\text{Decide}(A_1)$) нератифицируемо, так как при фиксированном $\text{Decide}(A_1)$ переход к $A_2$ дает $+\$1,000$ больше.

5.2 Теорема об изоморфизме Дэвида Льюиса: «Prisoners’ Dilemma Is a Newcomb Problem» (1979)

В 1979 году Дэвид Льюис доказал, что однократная дилемма заключенного против психологического близнеца (или клона с тем же исходным кодом) на $100\%$ изоморфна парадоксу Ньюкома:

Сотрудничать ($C_{\text{PD}}$: отказаться от своих $\$1,000$, чтобы принести близнецу $$1,000,000$) $\Longleftrightarrow$ One-Boxing ($A_1$).
Предать ($D_{\text{PD}}$: забрать себе $+\$1,000$) $\Longleftrightarrow$ Two-Boxing ($A_2$). Поскольку Омега предсказывает вас, запуская вчера симуляцию (близнеца) вашего разума, обе задачи тождественны. Льюис заключил, что рациональность требует предательства и выбора двух коробок, тогда как Дуглас Хофштадтер (1983) выдвинул концепцию суперрациональности (Superrationality) в пользу взаимного сотрудничества $(C_{\text{PD}}, C_{\text{PD}})$ и выбора одной коробки ($A_1$).

6. Передний край ИИ-выравнивания: функциональная теория принятия решений (FDT)

Для программных ИИ-агентов, чей исходный код может быть прочитан или со $100\%$-ной точностью просимулирован в песочнице (sandbox), предсказатель $\Omega$ — повседневная инженерная реальность. В 2017 году Элиезер Юдковски и Нейт Соарес (объединив TDT и UDT Вэя Дая) создали функциональную теорию принятия решений (Functional Decision Theory, FDT).

6.1 Логические контрфактуалы: интервенция на математическую функцию $\mathsf{F}$

CDT трактует выбор как локальное физическое событие $A$ в точке $(x_0, t_0)$ и при оценке $do(A = A_2)$ постулирует логически невозможный мир, где один и тот же детерминированный алгоритм $\mathsf{F}(\mathcal{I})$ вчера в симуляторе Омеги выдал $A_1$, а сегодня выдал $A_2$. FDT осуществляет интервенцию непосредственно на выход математической функции принятия решений $\mathsf{F}(\mathcal{I})$:

\[\text{EU}_{\text{FDT}}(a) = \sum_{j} \mathbb{P}\!\left(S_j \;\middle|\; do(\mathsf{F}(\mathcal{I}) = a)\right) U(a, S_j)\]
Парадокс Ньюкома: поскольку прогноз Омеги $S = f_S(\mathsf{F}(\mathcal{I}), U_S)$ функционально зависит от $\mathsf{F}(\mathcal{I})$, вмешательство $do(\mathsf{F}(\mathcal{I}) = A_1)$ одновременно задает $A_1$ и в симуляции, и в реальности $\implies$ FDT выбирает одну коробку ($A_1$) и выигрывает $\$1,000,000$!
Поражение курильщика: поскольку врожденный ген $L$ не является симуляцией функции $\mathsf{F}(\mathcal{I})$ ($C \leftarrow L \to \mathcal{I} \to \mathsf{F}(\mathcal{I}) \to A$), $do(\mathsf{F}(\mathcal{I}) = a)$ не меняет вероятность рака $\implies$ FDT выбирает курение ($A_{\text{smoke}}$) без суеверий!
Прозрачный Ньюком (автостопщик Парфита) и программное равновесие (теорема Лёба): даже если коробка B прозрачна и миллион долларов виден глазом, FDT/UDT оптимизирует глобальную политику $\mathsf{F}$ ex ante и берет только коробку B; а в дилемме заключенного с открытым кодом агент FairBot использует теорему Лёба ($\square(\square P \to P) \to \square P$) для достижения формально доказуемого взаимного сотрудничества.
6.2 Сравнительная таблица: EDT vs. CDT vs. FDT/UDT
Измерение / Дилемма Эвиденциальная теория (EDT — Jeffrey 1965) Каузальная теория (CDT — Lewis, Pearl) Функциональная теория (FDT / UDT — Yudkowsky & Soares 2017)
Формула ожидаемой полезности $\sum_j \mathbb{P}(S_j \mid A_i)\, U(A_i, S_j)$ $\sum_j \mathbb{P}(S_j \mid do(A_i))\, U(A_i, S_j)$ $\sum_j \mathbb{P}(S_j \mid do(\mathsf{F}(\mathcal{I}) = a))\, U(a, S_j)$
1. Стандартный парадокс Ньюкома Одна коробка ($A_1$) ($\$1,000,000$) Две коробки ($A_2$) ($\$1,000$) Одна коробка ($A_1$) ($\$1,000,000$)
2. Поражение курильщика Не курить ($A_{\text{abstain}}$) (Суеверие) Курить ($A_{\text{smoke}}$) (Верно, $+1$) Курить ($A_{\text{smoke}}$) (Верно, $+1$)
3. Дилемма заключенного-близнеца Сотрудничать ($C_{\text{PD}}$) ($\$1,000,000$) Предать ($D_{\text{PD}}$) ($\$1,000$) Сотрудничать ($C_{\text{PD}}$) ($\$1,000,000$)
4. Прозрачный Ньюком Две коробки (Наблюдение экранирует $\implies \$0$) Две коробки (Доминирование $\implies \$0$) Одна коробка (Глобальная политика $\implies \$1,000,000$)
Литература (References)
Nozick, R. (1969). “Newcomb’s Problem and Two Principles of Choice.” In Essays in Honor of Carl G. Hempel (pp. 114–146).
Jeffrey, R. C. (1965 / 1983). The Logic of Decision. University of Chicago Press.
Lewis, D. (1979). “Prisoners’ Dilemma Is a Newcomb Problem.” Philosophy & Public Affairs, 8(3), 235–240.
Pearl, J. (2000 / 2009). Causality: Models, Reasoning, and Inference. Cambridge University Press.
Yudkowsky, E., & Soares, N. (2017). “Functional Decision Theory: A New Theory of Instrumental Rationality.” arXiv:1710.05060.

Ваш выбор сегодня (при \(t = 0\))	Состояние \(S_1\) (\(\text{Pred}_1\)): \(\Omega\) предсказал \(A_1\) (в коробке B лежит \(\\)1,000,000$)	Состояние \(S_2\) (\(\text{Pred}_2\)): \(\Omega\) предсказал \(A_2\) (в коробке B лежит \(\\)0$)
\(A_1\): Взять только коробку B (One-Boxing)	\(\\)1,000,000$	\(\\)0$
\(A_2\): Взять коробки A и B (Two-Boxing)	\(\\)1,001,000$	\(\\)1,000$

Измерение / Дилемма	Эвиденциальная теория (EDT — Jeffrey 1965)	Каузальная теория (CDT — Lewis, Pearl)	Функциональная теория (FDT / UDT — Yudkowsky & Soares 2017)
Формула ожидаемой полезности	\(\sum_j \mathbb{P}(S_j \mid A_i)\, U(A_i, S_j)\)	\(\sum_j \mathbb{P}(S_j \mid do(A_i))\, U(A_i, S_j)\)	\(\sum_j \mathbb{P}(S_j \mid do(\mathsf{F}(\mathcal{I}) = a))\, U(a, S_j)\)
1. Стандартный парадокс Ньюкома	Одна коробка (\(A_1\)) (\(\\)1,000,000$)	Две коробки (\(A_2\)) (\(\\)1,000$)	Одна коробка (\(A_1\)) (\(\\)1,000,000$)
2. Поражение курильщика	Не курить (\(A_{\text{abstain}}\)) (Суеверие)	Курить (\(A_{\text{smoke}}\)) (Верно, \(+1\))	Курить (\(A_{\text{smoke}}\)) (Верно, \(+1\))
3. Дилемма заключенного-близнеца	Сотрудничать (\(C_{\text{PD}}\)) (\(\\)1,000,000$)	Предать (\(D_{\text{PD}}\)) (\(\\)1,000$)	Сотрудничать (\(C_{\text{PD}}\)) (\(\\)1,000,000$)
4. Прозрачный Ньюком	Две коробки (Наблюдение экранирует \(\implies \\)0$)	Две коробки (Доминирование \(\implies \\)0$)	Одна коробка (Глобальная политика \(\implies \\)1,000,000$)