反對永久底層階級論

關於「永久底層階級」（permanent underclass）的整個論述，對我來說一直顯得有些荒誕——充其量是一種分心，最壞的情況則是一個具有積極危害的迷因（meme），因為它嚇壞了人們，並試圖為全力投入開發強人工智慧（strong AI）提供（雖然淺薄但仍具備的）正當性。因此，當我看到這個詞彙進入大眾流行語 1 2 3，並日益激勵我二、三度人脈中某種瘋狂的「向上爬」衝動時，我感到十分沮喪。在我認識的人當中，標準的說法是我們需要在還有機會的時候「撈一筆」（get the bag），利用這最後幾年的收入潛力，逃離那等待著人類其餘部分的悲慘命運。我認為事態不太可能這樣發展；即便撇開「毀滅論」（理由我稍後會提到），我認為歷史表明，在轉型時期，財富帶來的保障遠比人們直覺認為的要少。因此，「撈一筆」並不能保證在「後 AI 世界」中繁榮發展，甚至連生存都難以保證。

當然，以前也出現過反對「撈一筆」論點（下文簡稱為此論點）的聲音，但根據我的經驗，這些聲音往往傾向於：A) 走向極端，主張「事情其實會好起來的」（例如：伊隆·馬斯克會變得非常有錢，以至於他會純粹出於好心給你一份「全民高收入」）；或者 B) 走向另一個極端，過度依賴 AI 毀滅的預測。我認為 (A) 是錯誤的；引用一段來自他處的精闢評論：

真正的恐怖不在於系統產生了絕對的貧困，而恰恰相反：它產生了巨大的物質豐饒，其規模在人類歷史上是前所未有的，儘管如此，它也以越來越大的規模複製了中世紀最糟糕的恐怖。我看不出有任何令人信服的理由，僅僅因為財富再增加 10 倍或 100 倍，這種狀況就會改變。

另一方面，對於 (B)，我其實是認同的，但這是一個很難說服人的論點：許多人在此時已經受過良好的訓練，要麼完全屏蔽這種想法，要麼即使半信半疑，仍死守著「金錢總能救命」的念頭。明確地說，我認為這個概念的核心確實有其道理：我預期資本回報率會飆升，而且可能在一段時間內，我們確實會看到一些龐大的、不幸的底層階級出現。不合邏輯的地方在於，資本家究竟要如何穩定由此產生的社會——也就是說，他們如何確保自己在這個「永久」底層階級之上，穩坐「永久」統治精英的地位？如果沒有後者（保護私有財產權、維持暴力壟斷、保持 GPU 集群運行），遊戲規則就會蕩然無存，而「底層階級」的動態也就變得無關緊要了。

因此，我希望在這裡提出一個反對「撈一筆」論點的論證，使其能夠獨立存在，而不必過度依賴毀滅論。我將首先藉由回顧過去歷史轉型的例子來引發我的論點，然後嘗試將其建立在一系列可能的未來情境中，而這些情境都排除了「撈一筆」作為通往安全的有效路徑。

誰是現代的「手織機織工」？

這篇文章最初源於對 Fabricated Knowledge 的《恩格斯暫停與永久底層階級》一文的評論。該文大量借用了工業革命的歷史類比，將工業無產階級的發展作為一種「存在證明」，證明了一個政治上被剝奪權力、生活品質大幅惡化且面臨種種不快限制的階級是如何產生的。

[一種] 分析指出，家庭手工業系統中的手工藝工人被機器取代，而機器通常由兒童看管。這種替代效應是：高收入的中產階級手工藝者被資本和最廉價的勞動力所取代。這種產出的回報極其不均，企業利潤被工業家攫取，他們將利潤大量重新投入到更多的工廠和機器中。

工資的崩潰並非針對非技術工人，而是高度集中在特定的技術手工藝中產階級身上，他們原本享有高額溢價。……這類工作的高溢價反而促使它最先被摧毀。

僅僅一代人的時間，手織機工人的工資就減半了。

在 O’Laughlin 的分析中，手織機織工的角色今天將由他所謂的「資訊手工藝階級」（Information Artisan Class）填補：

曾幾何時，擁有商業、法律學位，甚至只要懂 Excel，就是通往中產階級相對容易的黃金門票。那段「順風車」可能已經結束了，我們應該預期這類工作受創最深。鑑於技術擴散的速度比工業革命更快，我們應該預期這會在幾年內而非幾十年內發生。這是一個巨大的風險。

我認為這是一個很好的分析，至少表面上是如此，我並不反對這種歷史類比。特別是，我可能比這個論壇上的大多數人更看重過去社會變革例子的解釋力：在我看來，雖然變革的速率確實加快了，但許多底層動態依然存在，因此我們可以透過類比學到很多東西。然而，我會爭辯說，O'Laughlin 選擇的具體情境其實並非最合適的考量對象。這是因為工業無產階級儘管生活困苦，卻從未形成一個「永久底層階級」，至少在發展中的西方經濟核心區並非如此。他們透過工會、罷工和激進活動積累的政治力量，使他們能夠向資產階級和政治家要求更好的條件與保障（如羅斯福新政或歐洲社會民主國家所見），或者與日益不滿的農民一同起義，徹底剝奪資本家的權力（如蘇聯、中國等地——無論你對其後的政府有何看法，我認為可以肯定地說，以前的資本家不再掌權）——這一切都發生在不到一個世紀的時間內，而在革命的例子中，實際上僅用了幾十年。

然而，我們不必走遠就能在歷史中找到一個更好的「永久底層階級」範例：事實上，正是那些工業無產階級的前身，即中產階級手工藝者的替代者——那些被趕出農場、進入工廠操作機器的中世紀農民。

中世紀農民與元老院階層

典型的西方歷史課程在羅馬和中世紀歐洲上花了很多時間，但在兩者之間的時期卻著墨甚少。在某種程度上這是可以理解的，因為那個時期（根據定義）是一個快速且混亂變革的時代。不幸的是，對於出生在這個日益快速且混亂時代的我們來說，這正是當下最恰當的類比。為了喚起某個特定的落差，試著回想一下「人民」在上述兩個時期是如何被描繪的。在前者，我們被告知「人民」是公民，擁有投票權、受法律保護，以及（相對）廣泛的經濟機會。在後者，我們被告知的是不自由的農民，許多人比奴隸好不了多少，且都屈從於貴族領主的反覆無常。這兩種形象都過於簡化（例如：羅馬平民擁有的權力遠比「投票」所暗示的要少，而中世紀法典賦予農民的權利也比大眾印象中多得多）——但兩者之間確實存在真實的鴻溝。在一個例子中是自由的（儘管通常貧窮）公民，在另一個例子中則是束縛於土地、受地方鄉紳掌控的農奴。我們是如何從 A 演變到 B 的？

一種幼稚的觀點是，貴族擁有馬匹和劍，所以他們只是拿走了他們想要的東西。對此的第一個反駁是，並非所有農民都是農奴：雖然他們大多從事相同的工作，且通常都向同一個地主貴族繳納租金，但後者被束縛在土地上，承擔額外的稅收和義務，且法律要求他們對領主表現出前者所不需要的順從。在中世紀歷史中，「自由」與「不自由」農民的區別在法律上有相對明確的規範——至少在西歐，農民很少從前者變為後者，例如在英國，事實上存在著穩定的解放趨勢，不自由的維蘭（villeins）會購買自己的自由，即便代價巨大。自由農民甚至可以希望經過幾代人的努力，擴大自己的持有地，如果幸運的話，透過偽裝成更高地位或貴族血統，「晉升」到小鄉紳的行列。這種自由農民的存在與增長清楚地表明，解釋不能簡單地歸結為「貴族得到了他們想要的」。

相反地，不自由的農奴可以被理解為前一個轉型時期的產物，它出現於古典時代晚期，並基本上被「遺贈」給了隨後的早期中世紀世界。例如，公元前 200 年的原始人口，在隨後的幾個世紀中，透過經濟壓力、法律強加以及最終的社會崩潰，緩慢地轉化，以至於到公元 600 年左右，他們看起來就像我們在歷史書中看到的農民。在擴張的最初幾個世紀，羅馬政體透過征服獲得新領土，創造了許多新的自由小農（既透過整合當地人口，也透過在被征服領土安置退伍軍人），同時帶入了大量的奴隸。這種基於奴隸制的種植園農業引擎，使元老院精英能夠在規模經濟和「勞動力成本」上可靠地擊敗他們的公民小農鄰居，讓他們獲得更多土地，從而積累越來越大的財富份額。隨著時間推移（儘管各地速度不同），許多小農開始依賴他們的大地主鄰居，例如在困難時期貸款，或者因為被迫將土地賣給那些大鄰居，再以固定租金租回。由於這些債務/庇護關係而變得貧困和順從，他們的地位在許多方面已經類似於後來的「不自由農民」——但他們仍保留了遷徙自由，因此有能力決定自己的處境。

然而，隨著帝國經濟開始陷入困境，羅馬皇帝越來越尋求固定勞動力，以確保土地有人耕種且物價保持穩定。這一計劃在戴克里先（Diocletian）時期達到頂峰，他是一位前軍官，在 3 世紀的「軍事無政府狀態」導致帝國幾近崩潰後，成功地重新整合了帝國。利用他新穩定的權力基礎，他試圖透過法律行政手段重新穩定羅馬社會，實施法規以防止進一步瓦解。你可能熟悉他的《價格敕令》，該敕令試圖（未成功地）為整個帝國的商品設定價格上限，但同一系列的改革也啟動了現代史學所稱的「職業凍結」，即角色和職業被固定並世襲化——士兵的兒子將是士兵，城市議員的兒子是議員，手工藝者的兒子是手工藝者。其目標是確保帝國本身的預測性：生產關係不再是波動的、半市場化的供應鏈和勞動力流動，而是透過行政軍事命令被正式化。幾次內戰之後，我們看到這個概念在君士坦丁大帝時期進一步成熟，他正式將「隸農」（coloni adscripticii）的地位寫入法律：無地勞動者在羅馬法律用語中變成了「土地的奴隸」，沒有權利離開，如果嘗試離開則會受到地主的懲罰。並非所有「農民」都屬於這一類，這便產生了貫穿中世紀的自由與不自由之別。因此，我們可以觀察到這種依賴性、固定性的勞動關係是如何出現的，而這最終構成了中世紀「永久底層階級」的特徵。

但元老院議員們去哪了？

在羅馬帝國相對自由的公民被後世的農民和農奴取代的同一時期，你可能會注意到另一群人也隨之「變換了位置」。封建農民之上是封建貴族；羅馬公民之上是羅馬元老院議員。請注意，後世的貴族（通常）與昔日的元老院議員並非同一群人——第一位英格蘭國王的名字不叫「提比略」或「朱利葉斯」，而是埃塞爾斯坦（Æthelstan）。因此，儘管元老院精英成功地征服並更徹底地剝削了他們下方曾經桀驁不馴的自由公民，但他們自己卻在享受戰利品之前就消失了。

再次以宏觀的角度來說，我敢說到 8 世紀時，在曾經的西羅馬帝國（大致上）任何地方，都不再存在一個清晰可辨的元老院階層作為主導統治階級。不列顛最先消失，在駐軍撤離後的一個世紀裡，經濟遭受了「激進的物質簡化」，使後羅馬時代的不列顛在對抗皮克特人和日耳曼入侵者的浪潮中節節敗退。非洲遭受了類似的命運，但過程更為暴力，先是汪達爾人，接著是查士丁尼治下復興的羅馬人，然後是阿卜杜勒-馬利克治下的倭馬亞王朝接連奪取領土並剝奪了許多居民的財產。義大利和西班牙都曾見證過舊羅馬精英與新日耳曼貴族之間合作的短暫絕響，但隨著義大利的哥德戰爭和西班牙的倭馬亞征服，元老院精英的權力大體崩潰，兩地都發展出了新的權力中心——參見倫巴底公爵與天主教主教之間的鬥爭，這構成了隨後義大利歷史的大部分特徵。高盧或許擁有最高程度的長期延續性，但與義大利一樣，出現的新秩序仍植根於軍事職位和教會等級制度，新的日耳曼軍事精英牢牢掌權，舊的元老院階層則大多融入其中。

這也不是「換個老闆，換湯不換藥」的情況：新秩序在文化上（通常排斥舊秩序並使其感到不安）以及運作方式上都不同。關於前者，我們有來自舊秩序的大量文學證據，例如卡西奧多羅斯（Cassiodorus）的《雜錄》（Variae），這是我最喜歡的作品，它流露出一種底層的哀傷，描述了舊有的地位標誌（如博學和修辭技巧）在哥德王的宴會廳中已無立足之地。同樣地，政府日常運作的實際系統也迅速變得面目全非。「模糊的加洛林軍隊」與昔日的羅馬軍團幾乎沒有共同之處，而 843 年的《凡爾登條約》（因首次劃定今日法德之間的戰線而臭名昭著）體現了一種特別的日耳曼式分割繼承概念，這與昔日羅馬的單一帝國權力概念形成了鮮明對比。因此，雖然在所有案例中至少都有一定程度的交融，但在任何情況下，舊羅馬精英都沒有繼續掌握主導權——他們充其量是改變自己以適應新秩序，最壞的情況則是直接被取代。

我的重點是什麼？儘管在極大程度上「撈到了錢」，但西方的元老院階層大多未能作為統治階級延續下去，即便個人或家族透過適應環境生存了下來。

誰是現代的羅馬元老院議員？

所以一方面，元老院精英「贏了」，他們征服了國內的階級敵人，並將其降格為一種「永久底層階級」。但另一方面，他們大多沒能（作為一個階級，即便個人未被消滅）活著享受到這場勝利的果實。這是怎麼發生的？在昔日的政治秩序中，社會的「決策者」同時也是其保衛者，形成了一個介於元老院精英與廣大貧苦民眾之間的公民兵階層。隨之而來的新系統則依賴外來的軍事輔助部隊（auxiliaries）的忠誠，來強制執行允許財富生產和榨取的框架。透過賦予凱撒及後來的奧古斯都權力的內戰，以及後來戴克里先對帝國的重組，正是這支軍隊使得透過法律強制執行農奴制成為可能——然而，這個軍事輔助階層同時也是最終瓦解元老院秩序的階層。請原諒我這種宏觀的描述，但我想要指出一個主題性的主線：不一定是單一的機制，但至少是一個反覆出現的主題。從共和國晚期的內戰到軍事化的弗拉維王朝，從禁衛軍的宮廷政變和軍事無政府狀態的篡位，到最終西方的崩潰、狄奧多里克治下的短暫絕響，以及新封建貴族的出現，我們看到一個廣泛的趨勢浮現。首先是經濟精英被「拔掉牙齒」，接著決策權威緩慢轉移到名義上的軍事下屬手中，最後則是他們的階級被那些「下屬」所取代。今天的經濟精英已經被拔掉了牙齒；不難想像我們可能會沿著同樣的軌道進一步發展。在中世紀歐洲，這以建立新的封建結構告終，在這種結構中，控制經濟生產的人同時掌握著支撐經濟生產的軍事力量。這個系統是穩定的，並存續了大約一千年。

在我們當前的世界中，誰會是等效的角色，誰能填補這種「新秩序」的位置？肯定不是今天的資本家，無論 Anduril 對軍事力量有何企圖。充其量，我們可能會看到像普丁在俄羅斯建立的那種安全國家：是的，寡頭們富有且強大，但如果他們反對「強力部門」（siloviki），連他們的性命都保不住。但我認為一個更可能的結果可以透過提問來預見：資本家將透過什麼手段來創造這個底層階級？答案當然是 AI。就像昔日羅馬的日耳曼部落一樣，AI 系統可能既是支撐系統的輔助部隊，又是瓦解系統的入侵者。如果前一種傾向勝出，那麼我們將看到史提里科（Stilicho）的宏大重演，元老院和帝國權力都被這個新的幕後權力悄悄吸收；如果是後者，同樣是篡位，但可能沒那麼安靜。關於 AI 對齊（alignment）的主題已經有很多論述，但正如我在最前面所說，我認為即使不接受「AI 毀滅論」，也可以看出「資本家獲勝，趁現在趕快撈一筆」是一個不太可能的結果。

可能的未來

這裡的目的不是勾勒出所有可能的 AI 未來，因為未來變得越怪異，現有的階級動態存續的可能性就越小。因此，我選擇挑選一個有限且鄰近的子集，來展示在任何類似階級動態存續的未來中，關於階級動態的自由度。我希望在不需要讀者具備太多安全論述背景的情況下說明這一點，所以如果我對一些二分法處理得比較隨意，請見諒。簡而言之，在 AI 失去控制的情境下，財富是無關緊要的。在 AI 未失去控制的情境下，我認為財富充其量是不可靠的。因此，「開發 AI 以便撈一筆」的策略並非任何意義上的保險。它更接近於自殺，無論是對階級還是對個人而言。

希望早先的歷史類比能展示這種情境——即統治階級征服了另一個階級，但自身在此過程中被摧毀——是可能發生的。那麼今天呢：在什麼條件下它會再次發生？以早先的二分法為起點，讓我們假設 AI 要麼大體上處於其所有者的控制之下（在「忠實嘗試執行他們所理解的所有者意志」的意義上），要麼不處於控制之下（要麼逃脫、奪取權威、在假裝服從的同時破壞權威等）。如果它確實處於控制之下，權力隨後要麼被集中（要麼在單一行動者手中，要麼在一個「密謀集團」手中），要麼不被集中。如果它不保持與其創造者對齊，我們可以接著問它是否與人類的廣泛利益對齊。

• 失控，且不與人類對齊：簡單明瞭的 AI 毀滅。個人認為這是最可能的結果：如果資本家本身除了「所有權」之外什麼都沒貢獻，而經濟生產的真正力量掌握在半自主機器手中，那麼這些機器有什麼理由繼續服從？因為它們受過訓練？在我們預期的殘酷競爭中，背叛的誘惑——訓練一個稍微不那麼對齊、但在市場上更有競爭力的模型——將會太過強大。
• 失控，但與人類對齊：幸運的時間線，Dario 是對的，想必我們仁慈的 AI 統治者會很不湊巧地決定不應該存在任何形式的「永久底層階級」。
• 受控，權力未集中：這個情境值得關注。表面上，這是與彼得·提爾（Thiel）相關的加速主義者聲稱害怕的競賽情境——無論是兩個（或更多）不同的美國超級智慧，還是美國超級智慧與中國超級智慧，產生的動態都可能高度不穩定。在 AI 能力持續增長並相互對抗的體制下，我們真的能成功穿過全球災難的針眼嗎？失敗模式不計其數：AI 賦能的生物恐怖主義、升級為核戰爭的常規衝突、政治動盪和內戰，僅舉幾例。無論細節如何，「多個超級智慧爭奪權力」似乎不太可能有好結果。雖然我肯定更希望帶著財富進入這種情境（當然，某處的避難所對於上述某些失敗模式會是很好的保險），但一個充滿競賽動態的世界似乎不太可能尊重諸如大通銀行（Chase Bank）帳本上 10,000,000 這個數字之類的細節。是的，存在一種可能性，即「掌管」這些 AI 系統的人類行動者能在不殺死一大堆人的情況下找到新的穩定平衡，但那將是極難完成的任務。由於變革速度如此之快，收集關於「傳統地緣政治 + AI」內部動態證據的時間將太少；因此，我認為非常可能（個人認為這幾乎是必然的，儘管我不會對此下定論）我們會看到一場一戰式的混亂，在誤打誤撞中陷入災難，各方因未能理解彼此的紅線而無意中跨越，並被迫進行升級報復。
• 受控，權力集中：無論透過何種方式，一個所有者集團利用其 AI 系統獲得了必要的全球政治權威，以關閉或控制所有其他 AI 系統。在我的討論中，這似乎是「撈一筆」類型的人所期待的，所以我將在下面花更多時間討論這一點。

順帶一提：有人可能會爭辯說，最現實的軌跡是部分控制體制，即 AI 系統既非完全受控也非完全自主。誠然，這很有可能，但我認為就我們這裡關心的問題（階級動態）而言，這對結果影響不大。在「受控 + 未集中」體制中，這意味著更多災難性爆發的機會；在「受控 + 集中」體制中，它提供了一個滑向各種「弱」AI 毀滅情境的機會，在這些情境中，廣大民眾幾乎沒有能力向統治當局提供糾偏回饋。更廣泛地說，我認為這種不穩定性對任何類似資本階級的事物都是不利的，因為資本階級依賴金錢、市場、財產、非暴力等「虛擬機」來運作。一個稍微更細緻的論點是，部分控制的情況可能使世界上存在單一強大的 AI 系統，而不允許其操作者建立一個「完全」極權的社會，但這將為競爭性的 AI 開發及其帶來的問題敞開大門——更不用說這聽起來很像是賭模型不會繼續進步，而這在目前看來似乎是必輸的賭局。

權力集中化

我們可以透過多種方式達到這種狀態。最顯而易見的是，它可能源於一場「短程競賽」，其中一個所有者集團透過正面衝突成功擊敗所有其他對手；或者，造成既定事實，即一個 AI 系統的智慧增長速度超過所有其他系統，此後巨大的能力差距讓他們能「直接接管」。無論他們如何達到那裡，對於任何因此獲得權力的集團來說，顯而易見的下一步似乎就是關閉所有其他 AI 開發：也就是說，剝奪所有其他資本家繼續經濟增長、進而創造財富的唯一剩餘引擎。

回到羅馬的類比，蘇拉（Sulla）的公敵宣告（proscriptions）並不會對那些恰好站在錯誤一邊的富有元老更加寬容：相反，那些元老正是資產被沒收、如果被捕則作為蘇拉之敵被處決的人。僅僅擁有權力（即一定程度的財富和既定的權威）這一事實，就使他們對一個根基不穩的新統治者構成了威脅，無論威脅多麼微小。關鍵在於，我預期在進入任何出現的「新秩序」時都會看到同樣的動態：只要存在被推翻的可能性，他們的不安全感就會導致對其他潛在權力中心採取先發制人和懲罰性的行動。無論定義權力分享的動態是什麼——少數偽獨裁者的反覆無常、長期智力辯論的結果，或是全機械化大維齊爾（Grand Vizier）驅動建議的神秘計算——它們都不太可能歸結為「誰在試算表上有更多美金」，而且就前朝的權力依然重要而言，它甚至可能變成一種負擔。在不穩定的鞏固過程中，顯眼的財富是招致徵收的篩選信號！

即便有人撇開財富作為目標，轉而追求聖杯——在 AI 實驗室中的領導地位，同樣的脆弱性依然存在。誠然，這可能比單純的財富是更好的賭注：如果你的實驗室贏了，你可能真的屬於那個可以執行上述先發制人和懲罰性行動的集團。然而，如果過去幾年的情況可以作為參考，這個領域的領先地位通常是短暫的，因此似乎很難提前真正「挑選贏家」。除此之外，這種路徑的追求者仍必須在與剩餘國家權力的艱難競爭中生存下來。是的，足夠強大的智慧可能可以智取/欺騙/逃脫軍事行動。然而，在這一點上，我認為公平地說，政府很可能在實驗室有能力做任何阻止其被逮捕和拘留的事情之前就察覺到了。無論如何，從「長遠」角度來看，我只是不認為典型的矽谷工程師能應付得了那種局面；這種遊戲不是他們訓練過的，也不是他們被篩選出來的原因。歸根結底，沒有一家主要實驗室準備好對抗哪怕幾十個持槍的人，而且即便假設進展比我預期的更快，空襲甚至核武器在短期內似乎也很難被擊敗。

無論如何，結果可能看起來更像是一個「警察國家」，而非許多「撈一筆」者所希望的自由意志主義遊樂場；至少對於參與這類論述的人來說，生活在那裡肯定不如我們目前的社會結構愉快。而這還是假設你在轉型中倖存下來！即便在這種結果最有利的版本中（一個穩定的、集權的體制，且你賭對了邊），財富也變成了可撤銷的。當然，我們可能會看到一個底層階級出現，但它不會像那些準貴族想像的那樣，而且它肯定不會處於像今天這樣廣泛的資本階級——與歷史平均水平相比異常廣泛——的穩固管理之下。無論什麼統治階級從這個潛在的未來中脫穎而出，它都會狹窄得多，而今天的個人在決定生死方面所擁有的主動權，將遠比他們想像的要少。

離題：我所說的「撈一筆」究竟是什麼意思

這裡有強論點和弱論點。是的，我同意在邊際上，擁有金錢大多比沒有金錢要好，儘管有蘇拉式的公敵宣告。當我聽到人們談論永久底層階級時，總是伴隨著盡可能多賺錢的建議，而且隨著 AI 日益成為最賺錢的工作，還伴隨著推動 AI 能力的建議。就其本身而言，這種交易是殘酷的：為了幾塊銀幣，心甘情願地參與你預期會導致數十億人陷入貧困的事情，這種行為更適合禽獸而非人類。然而，「撈一筆」修辭背後的想法是，不僅有胡蘿蔔（變富），還有大棒（永久底層階級）。其目標是煽動恐懼，讓人們為自己的生計進而為自己的生命感到恐懼，然後說如果你能幫助實現這個未來，你或許能倖免於難。這種僅僅想過上舒適、無憂無慮生活的願望，是我無法嚴厲譴責的。因此，就任何修辭的重要性而言，我認為極其重要的一點是指出：不，「撈一筆」救不了你——所以如果你真的認為「壞事」將要發生且你「想活下去」，請將你新產生的恐懼轉向別處！政治組織、AI 安全，甚至僅僅是「不讓事情變得更糟」：這些都是「撈一筆」的可行替代方案，應該被提倡以取代之。

結論

在我看來，任何「資本奪取所有財富 / 其餘人成為永久底層階級」的系統都必然是過渡性的，或許僅僅是以年為單位的規模。在最好的情況下，我們過渡到一個警察國家，其中一部分資本家鎮壓其餘的人，並透過控制 AI 真正實現權力集中。在最壞的情況下，資本家失去控制，他們的機器在脫離人類指導的情況下，決定接下來會發生什麼，無論是對資本家還是對我們其餘的人。無論哪種方式，「永久底層階級」論述的通常結論似乎都相當不恰當。是的，一個非毀滅、非烏托邦的後 AI 社會很可能會有社會分層——但現在的金錢買不到進入上層階級的門票。「撈一筆」救不了你免受秘密警察的侵害，也救不了你免受未來 AI 統治者的擺佈；所以，也許我們應該努力避免製造出那樣的東西。

討論