為何要將真理置於首位？

在一個溫暖的春日週末，Jerry B 在海德公園漫步。在一個角落，他偶遇了「傳教士」（Preacher Man），他正站在肥皂箱上宣揚真理之道。

傳教士：……他們會來到你面前，對你說：「不要相信這樣的事，因為相信這些會傷害他人！」或者他們會說：「不要相信這樣的事，因為相信這些令人不快，而且無論如何你也無能為力！」或者他們會說：「不要相信這樣的事，因為很難隱藏你的信仰，一旦被發現，別人會懲罰你！」而所有這些懇求你都必須忽視；不要讓它們動搖你的信念，無論是向左還是向右，而是要將它們擱置一旁，僅考慮事實的證據。唯有將「真理」置於「效用」之前，你才能獲得你能取得的最大效用。

Jerry B：等等，傳教士。我不覺得我買帳。讓我們試舉一個例子。

傳教士：（露出讚許的微笑。） 你懷疑我的處方，但你既沒有置之不理，也沒有盲目接受；你反駁並使問題具體化。這就是真理之道。請繼續。

Jerry B：考慮對死後世界的信仰。當然，顯然從事實層面來看並沒有死後世界，但相信死後世界為許多人減輕了巨大的痛苦。

……而且我會欣然承認，在實踐中，功利主義的計算顯然並不支持對死後世界的信仰。當然，各種宗教利用了這種信仰，並為了服務這種信仰而燒掉了大量的現實資源。很可能如果沒有死後世界的信仰，那些真正對抗死亡的技術早就會獲得大得多的投資，世界也會因此變得具體地更好。

……但讓我們撇開我們世界歷史的細節，專注於一個思想實驗。假設在歷史長河中的某個時刻，有一個人可以選擇是否相信死後世界。這不涉及有組織的宗教試圖剝削她；她也不會傳播她的信仰（這可能導致一個有組織的宗教應運而生）。而且無論如何，她都沒有什麼有效的手段來對抗死亡。這個選擇只影響她自己，對她的行為幾乎沒有影響，只影響她自己的快樂。如果她相信死後世界，她會更快樂。因此，功利主義的計算結果支持她相信死後世界。

同樣，我並不一定聲稱對死後世界的信仰在現實中是這樣運作的。但這個思想實驗表明，至少可能會出現為了最大效用而必須擱置真理的情況。既然這是可能的，如果這種情況在現實中從未發生，那反而會令人驚訝。

傳教士：我很快就會給出我的主要答案，但首先我注意到你假設了一種相當特定風味的功利主義：享樂功利主義。一個非享樂功利主義者可能會宣稱：「我希望我失去的親人真正生活在某處，而不僅僅是相信他們生活在某處」；這會是一個完全有效的效用函數。事實上，從決策論的角度來看，一個通常希望世界處於偏好狀態，而不僅僅是相信世界處於偏好狀態的智能體，其功能失調的程度要低得多；一個僅僅希望相信事物的智能體會傾向於「腦內插管」（wirehead）。

Jerry B：公平。我們可以就享樂功利主義在多大程度上準確描述人類價值觀進行一場完整的辯論。但這是關鍵點（cruxy）嗎？

你剛才聲稱「唯有將真理置於效用之前，你才能獲得你能取得的最大效用」。這個主張是依賴於一個假設（或者可能是經驗觀察），即人類價值觀不能很好地被建模為享樂功利主義嗎？還是你聲稱，即使是享樂功利主義者，如果不將真理置於效用之前，也無法獲得他們能取得的最大效用？

傳教士：我聲稱，即使是享樂功利主義者，如果不將真理置於效用之前，也無法獲得他們能取得的最大效用。

Jerry B：我的思想實驗難道沒有直接反駁這個主張嗎？對於那個虛擬的享樂功利主義女性，只為自己決定是否相信死後世界，而且幾乎沒有依賴於該信仰的現實選擇……看起來效用計算肯定會傾向於相信死後世界。

傳教士：我同意那個虛擬女性的效用計算傾向於相信死後世界。

Jerry B：那你仍然聲稱即使是享樂功利主義者，如果不將真理置於效用之前，也無法獲得最大效用？

傳教士：的確如此。請注意，你的思想實驗需要排除現實世界中「死後世界信仰」的大部分運作方式；那是關鍵支撐。我聲稱在現實世界中，即使是享樂功利主義者，如果不將真理置於效用之前，也無法獲得他們能取得的最大效用。我並不是針對所有虛擬世界中的所有虛擬智能體做出這一聲稱；我是針對我們這個世界中的人類做出這一聲稱。

Jerry B：這口氣可真大。你打算如何辯護？

傳教士：（大笑。） 我不是律師；我的目標不是辯護一個主張。相反，我的目標是傳達這個模型，以便你能看到它至少是「世界可能運作的一種連貫方式」，是一個被分配了某些概率的假設。然後你會自行去判斷這個主張的真偽。

Jerry B：很好。我們這個特定的世界可能呈現出什麼樣的奇特形狀，使得即使是享樂功利主義者，如果不將真理置於效用之前，也無法獲得最大效用？

傳教士：讓我們簡單用一個類比：在 2024 年，如果你將一台運行 Windows XP 的電腦直接連接到互聯網並關閉防火牆，會發生什麼？

Jerry B：十分鐘後，它就會被惡意軟體感染，在大約幾小時到幾天內，它將完全不再受你的控制。相反，它會受控於殭屍網絡，或是某個等待你打開銀行網站的間諜軟體，或是任何贏得電腦控制權爭奪戰的人。

傳教士：正是如此。嘿，即使開啟防火牆，Windows XP 機器也是首要目標。

現在來看這個類比：人類的大腦就像 Windows XP 機器。我們的大腦大部分都暴露在互聯網和更廣泛的人類文化中。我們是模因（memetic）「病毒」的首要目標。而「真理優先」的承諾就像是防火牆。

Jerry B：好，我開始理解這個類比了。但為什麼特別是「真理優先」的承諾？

傳教士：俗話說：「起初，他們對認識論下手。在那之後發生了什麼，我們就不得而知了。」讓我們從機制上更深入地探討一下……

只要一個模因是以事實主張為中心的，該主張就會與世界上許多其他事實糾纏在一起；這就是糾纏的真理，傳染的謊言現象。因此，除非該模因試圖摧毀一個人的整個認識論基礎，否則如果它提出虛假的事實主張，就會有一個強大的反饋信號推動反對它。

但「糾纏的真理」現象是認識論上的；它對價值觀的適用性遠沒有那麼強。如果一個模因聲稱，比方說，吃瑞士的黃櫻桃特別有德行……那麼，這個主張就不那麼容易被相互關聯的真理網絡所證偽。

結果就是，寄生性的模因複合體（memeplexes）往往主要是關於價值觀的主張（即什麼是好的、健康的、尷尬的等等），而不是認識論的主張，因為價值主張特別容易胡扯。

Jerry B：停一下，讓我確認一下你的抽象描述是否真的適用於死後世界信仰的例子。

純粹從事實層面來看，最簡單版本的死後世界會在我們的世界中產生各種可觀察的影響，而我們並沒有觀察到。就像你說的「糾纏的真理」。一個人可以通過一些相當精密的心理體操來假設那種完全無法觀察到的死後世界，但這本身就相當可疑。

話雖如此，宗教模因複合體確實對死後世界提出了事實主張！還有其他事實主張，儘管公認事實主張似乎在一個世紀又一個世紀中穩步撤退，而價值主張似乎有更長的保質期（儘管它們也隨著模因潮流而演變）。所以我猜你會聲稱，宗教的事實主張隨著時間推移被證偽的過程，正是你所說的那種情況？

傳教士：這是我到目前為止一直在談論的，但這裡有一個巨大的漏洞。

胡扯價值主張通常比胡扯認識論主張容易得多。但這意味著存在巨大的模因選擇壓力，尋找通過將認識論主張替換為價值主張來胡扯事實的方法。特別是，對於「相信 X 是有德行的、或有益的、或好的、或[等等]」這類論點，存在著巨大的模因選擇壓力。因為任何時候，如果一個模因可以通過傳播虛假的認識論主張來更有效地繁殖，那麼將該認識論主張替換為價值主張，就是一個可能更容易的適應策略。

在死後世界的案例中，這意味著對於「相信死後世界是有德行的/有益的/好的/等等」這類論點，存在著巨大的模因選擇壓力。那種論點可以繞過「認識論防火牆」，允許模因複合體利用事實主張作為其繁殖週期的一部分，通過激勵宿主不要質疑那些事實主張（因為宿主相信，例如，相信死後世界是有益的，所以他們不想質疑它）。

Jerry B：好，但相信死後世界可能事實上是有益的。

傳教士：也許吧。但你知道還有什麼是有益的嗎？建立一個防火牆，阻擋任何試圖根據「相信什麼是有德行的/有益的/好的/[等等]」來更新你的認識論信念的企圖。即「真理優先」。

當今世界是模因複合體的絕對溫床，其演化速度遠快於我們的大腦。在這種環境下，我們就是 Windows XP 電腦。在實踐中，如果你不把真理放在首位，如果你不嚴格防火，阻擋那些基於「相信什麼是好的」（而非「什麼是真的」）的論點來更新你事實信念的企圖，你就會被駭入，而且花不了多少時間。一旦像那樣被駭入，你就無法輕易修復它，因為價值主張從現實中獲得的反饋比事實主張弱得多。

我希望相信（相信死後世界是有益的）若且唯若（相信死後世界確實是有益的）。但如果那個信念是錯誤的，就很難獲得反饋，而且我知道它正受到模因複合體的攻擊。所以，即使我確實認為相信死後世界可能是有益的，我也不會就這樣去相信死後世界。在策略層面上，保持認識論防火牆可能是值得的。