意識是最後的道德世界嗎？

想像一下，試著向病毒解釋為什麼痛苦很重要。

病毒是一個簡單的自我複製分子：不複雜，甚至可以說根本不算生命。它沒有經驗，只是根據化學定律複製自己。從它的「視角」（它其實沒有視角）來看，宇宙只是物理：粒子遵循著規則。如果你能以某種方式告訴它，某些物質排列是「好」的，而另一些是「壞」的，它不會反對你。它沒有足以同意或反對的概念。這就像問一塊石頭對戰爭有什麼看法一樣。

相對於未來可能展現的面貌，我們是否就是那種病毒？

*照片由 Kiril Dobrev 拍攝，取自 Unsplash

---

I. 三個世界

今天我想討論 進階道德價值 的可能性：那些目前我們還無法觸及的道德價值維度，它們在性質上（而不僅僅是數量上）與我們迄今觀察到的任何事物都不同。

作為背景，我認為一般的世俗人類在三個概念截然不同但又相互重疊的世界中穿梭：

• 物理世界。 物質、能量、原子、恆星、細胞。如果你是我們宇宙的一個超然觀察者，你可能會認為這就是全部。
• 數學世界。 邏輯、抽象結構、理性、自然法則。即使是嚴格的唯物主義者也能看出這在概念上與物理世界有何不同。數學真理似乎與單純對物理世界的觀察有著重要的區別，且在某種意義上比後者更「深」。一些康德主義者試圖同樣將道德完全建立在這個世界中，建立在合作邏輯、博弈論和策略互動之中。
• 意識世界。 主觀經驗。看到紅色、感到疼痛、愛上某人的感覺。這是大多數道德哲學家認為真正關鍵所在的地方。純粹的享樂功利主義者可能認為意識經驗是唯一重要的事情，但即使是其他道德哲學，也會認為意識經驗極其重要。這似乎幾乎是不言而喻的：有意識的痛苦具有深遠的意義，而石頭的散落則不然，無論散落的樣子多麼引人注目。

如果你按順序慢慢了解這每一個世界^([1])，每一個新世界都會是一個巨大的驚喜，重新定義了之前的一切。如果你只意識到物理原子和物質，看到數學的深刻意義將是一個巨大的衝擊。數學並未預測主觀經驗應該存在，更不用說它應該是道德價值的核心。每個新世界不僅僅是增加了更多的東西，或增加了相同東西的更強烈版本。相反，它增加了一種性質上完全不同的「東西」，並追溯性地使之前的世界顯得像是一個貧乏的倫理基礎。

試圖僅從物理學推導出所有道德——例如，如果有人瘋狂到根據熵的最大化來推導出一套完整的倫理哲學和意識形態運動——在大多數人看來會是極其混亂的。

這與其說是技術錯誤，不如說是遺漏了事物重要性的整個「維度」。

同樣，科幻小說中的大多數機器人，以及現在的 LLM（大型語言模型），可能完全生活在前兩個世界中。想像一個純粹基於理性構建倫理的機器人，或者 Claude 4.6 或 Gemini 3.1 試圖僅以決策論術語來建立倫理基礎。對大多數人來說，這種方法仍然缺失了讓道德真正重要的東西。

但這些是僅有的三個世界嗎？意識是最後的世界嗎？

或者可能存在第四、第五或第六個世界：道德價值的來源，就像意識超越物理一樣，它們也超越了意識經驗？

II. 定位不可言說之物

這聽起來可能太抽象了。讓我們試著讓它更具體一點。

請注意，從下方看，世界之間的每一次轉變都顯得介於不可能與不連貫之間。一個純物理的宇宙並未暗示意識的存在。一個在非意識外星文明中長大的智能非意識外星人，會看不到任何理由去假設主觀經驗的存在，並且可能會駁斥任何這樣做的人。從「遵循規律的粒子」到「存在著某種身為我的感覺」的躍遷，將是完全激進且出乎意料的。

然而它發生了。我們是有意識的（我想是吧！）。因此，激進的無法理解本身不應排除進一步世界的可能性。
那麼，進一步的世界會是什麼樣子呢？

當然，關於第四個世界可能是什麼，有一個古老的答案：

超自然世界。靈魂、神靈、天堂和地獄的世界。宗教傳統通常聲稱，神聖或超越的價值在性質上（而不僅僅是數量上）優於自然價值。說「天堂是無限的極樂」是世俗/唯物主義對某種據稱更深層事物的近似。^([2])現在，我個人認為宗教答案對於世界的實際情況是錯誤的。但我認為像「崇高」這樣的概念捕捉到了一種更深層的直覺：可能價值的空間可能比我們目前所能觸及的要廣闊得多。

III. 樂觀的理由

至少有三個具體的理由讓我們相信，新的價值世界在未來可能會變得可觸及：

第一是歸納論證。回到地球遙遠的過去，既沒有智能也沒有意識覺知。從那時起，數百萬年的進化帶領地球生命走向了意識，以及對宇宙數學結構的覺知^([3])。為什麼我們應該相信這是最後一站？
第二個理由涉及新（且可能截然不同）心智的結構。大多數人相信人類擁有（目前）其他智能 AI 所沒有的意識經驗。同樣，似乎至少有可能，足夠不同的心智架構可以觸及人類心智無法體驗、甚至無法構想的道德價值。與我們截然不同的心智可能能夠產生超越我們目前想像的、性質上截然不同的道德價值。

第三個理由是關於尋找更多可能性的能力，以及意願。如果人類和/或我們的後代生存得足夠久，在某個時刻，投入比整個人類哲學和科學歷史總和更多的認知努力來研究諸如「是否存在其他道德價值來源，以及我們如何觸及它們？」之類的問題，將變得微不足道。這種搜尋可以探索奇特的物質排列、為價值優化的新型心智結構，或者完全不同的東西。搜尋空間非常大，而我們幾乎還沒有探索過。

在哲學中，尼克·博斯特羅姆（Nick Bostrom）在他的「來自烏托邦的信」中捕捉到了與此接近的東西：我的感受之於感受，正如我的思考之於思考。 而在科幻小說中，伊恩·班克斯（Iain M. Banks）想像文明「昇華」（Subliming）：超越到一個好與公平的概念都不再適用的狀態，取而代之的是剩餘的星際文明無法理解的東西。

IV. 影響與未來工作

除了作為一個有趣的智力筆記之外，這一切為什麼重要？

如果進一步的道德價值存在，這意味著人類所有的道德哲學都是極不完整的。每一個框架、每一個精心推敲的倫理理論，都缺失了一些關鍵的東西。不一定是錯的，但就像研究沒有博弈論的戰爭，或者沒有遺傳學的生物/進化動力學一樣。

這應該讓我們同時變得更謙卑也更有野心。更謙卑，是因為我們認為在宇宙中最重要的事情，比如我們生命中最幸福的時刻、極端痛苦的減輕、正義與公平、經驗的豐富、獨角獸和巧克力，可能只是真正重要事物的一個子集，甚至是一個微小的子集。更有野心，是因為這意味著未來不僅僅是目前好東西的更多，或者我們目前能體驗到的東西的更強烈變體。它可能在我們還無法命名的方面，在性質上變得更好。

最大的實際意義可能是，我們應該更多地關注於避免滅絕或其他永久性的災難性後果，特別是來自 AI 的威脅。參見我之前的文章：

AI 災難論證的四個步驟

而在積極的一面，我們應該致力於為我們自己和我們的後代創造一個極其積極的未來，或者至少，為那些我們還不知道如何去渴望的未來留出空間。

一些關於未來工作的問題和線索：

• 我們能估計進一步道德價值的可能性有多大嗎？ 老實說：我對這一切發生的可能性沒有很好的把握。在這裡估計概率感覺超出了我的預測能力或哲學見識。

但我認為它發生的可能性足夠大，也足夠奇特，值得認真對待。「這就是全部」在人類理解的歷史中記錄不佳。

• 另一方面，僅僅因為這超出了我的能力範圍（或容易觸及的範圍），並不意味著它超出了你的能力範圍！也許你能在我不行的地方取得成功。

• 下行風險。如果我們或我們的後代錯誤地相信存在進一步的道德價值，是否存在顯著的下行風險？如果意識之外沒有更多的東西，我們的孩子會不會錯誤地冒險為虛無建造大教堂，或者為虛假的神靈做出巨大的犧牲？

就像博斯特羅姆所說的「沒有兒童的迪士尼樂園」（一個智能、科技高度發達、充滿科學和工業能力，卻沒有任何有意識觀察者的文明），但要詭異得多。

• 對我來說，目前看來我們的後代不太可能如此誤入歧途，但並非不可能！

• 總體而言，我們如何「繪製未知地圖」？ 我對一種新的研究範式感興趣，我偶爾稱之為「非建構性認識論」，或者更詩意地稱為「繪製未知地圖」。類似於數學中的非建構性方法，我感興趣的是通過歸納、不可能證明、結構類比等方法來研究我們所不知道的事物的結構。我非常希望能在這個領域取得更多進展，和/或看到其他人接過這面旗幟。

參見 Daniel Munoz 關於認識論捕蠅瓶的帖子，以及我之前的帖子這裡和這裡。

• 一個可能有幫助的類比是探索一片新土地。我們目前的大多數方法看起來像是通過以下方式直接擴展研究前沿：

a) 利用我們所知道的並看得更遠一點（就像一個探險家從已知土地向外冒險一點）

• b) 通過想像，為外面的事物提出假設，然後主動嘗試找到它（就像一個探險家根據金礦可能所在位置的直覺進行遠距離探索）

• 我提出的是間接地理解未知，通過更多的結構性邊界（例如觀察鳥類遷徙模式並推斷地理情況，注意到只有在海平面以外有陸地時才有意義的波浪折射模式）。

• 這篇文章是繪製未知地圖的一個早期實例。很想看看讀者是否對這種方法感興趣，和/或想看到更多想法！

我開始這篇文章時問道，我們是否可能像一隻試圖理解痛苦的病毒：對我們的世界沒有錯，但缺失了事物重要性的整個維度。

我不知道這是否屬實。但我注意到，在之前的每一個階段，答案都是肯定的。物理是真實的但不完整。數學是真實的但不完整^([4])。

因此，如果意識也是真實但又不完整的，如果存在第四個世界，或者第五個，或者第二十個，那麼未來不僅僅比我們想像的更宏大。它在我們還沒有詞語描述的方面變得更好。

我認為，對這種可能性的適當反應不是今天就試圖建立第四個世界。而是確保我們生存並繁榮得足夠久，以發現它是否在那裡。

訂閱

• ^([1])就本文而言，我對這些世界是「真正」不同，還是僅僅是談論事物的有趣概念方式之間的區別不感興趣（即我並未對數學柏拉圖主義或意識二元論提出強硬立場）。

• ^([2])當一個神秘主義者說天堂比塵世的幸福更重要時，他們的意思不是「它是幸福，但更多」。他們談論的是性質上不同的東西，而不僅僅是更多的幸福或更大的強度。其他示意方式包括不可言說、崇高等。

• ^([3])在我們的世界中，意識當然是在我們擁有對數學有深刻理解的生物之前就在動物身上出現了。這種時間順序使我的類比不那麼優雅，但我認為並未對我的論證造成實質性損害。

• ^([4])在我們熟悉的道德世界中，我們最初的摸索往往傾向於存在重大錯誤（我們的祖先在奴隸制、婦女權利、動物痛苦等方面都是錯誤的）。

討論