Dos Capital
這篇文章批判了 AI 驅動的資本積累將導致極端人類不平等的假設,並指出目前的財產權體系不太可能在超智慧轉型中倖存。我質疑在 AI 與機器人成為價值與資本主要驅動者的世界中,人類是否還能保有控制權或所有權。
本週,Philip Trammell 與 Dwarkesh Patel 撰寫了《22 世紀的資本》(Capital in the 22nd Century)。
我 2026 年第一季的目標之一,是以系統化的方式,針對圍繞潛在 AI 未來的所有標準經濟學辯論撰寫統一的解釋文章。這些辯論往往反覆涉及相同的論點,而提出經濟論證的人總是不斷假設你一定誤解了基礎經濟學原理,或者無故未能應用這些原理。關鍵假設通常未被說明,甚至未被意識到,而且往往是錯誤的,甚至是荒謬的。我們需要參考性的文章。
那需要較長時間,因此這篇文章改為探討圍繞 Trammell 和 Patel 該文的具體討論與問題。我的目標既是在其框架內與之對話,同時也指出其框架本身荒謬的核心方式,以及他們所做的那些往往隱含且不太可能成立的假設。
Trammell 與 Patel 核心主張的預設結果
他們和我一樣,肯定皮凱提(Piketty)對過去資本積累的看法在核心上是錯誤的,原因有很多且已被充分理解,他們也列舉了其中許多原因。
接著他們假設,皮凱提可能是在無意中描述了我們的 AI 未來。
也就是說,如果(正如他們所說,他們預期這是有可能的):
- AI 被用來「鎖定一個更穩定的世界」,財富被傳遞給後代。
- 資本回報率很高,且由於投資機會的優越可用性,事實上存在規模報酬遞增。
- AI 和機器人成為所有勞動力的真正替代品。
- (隱含)這個宇宙繼續支持人類並讓我們繁榮。
- (隱含)人類繼續是資本的主要持有者。
- (隱含)在一個心智被超越的世界中,人類能夠控制自己的決定,並做出本質上理性的投資決策。
- 我們無限期地不進行大量的累進式再分配。
- (隱含)私有財產權在無限規模下受到無限期的尊重。
那麼:
- 不平等將無止境地增長,吉尼係數趨近於 1。
- 那些明智投資、著眼於最大化長期回報的人,最終將擁有越來越大比例的財富。
- 也就是說,他們最終會擁有星系。
Patel 與 Trammell:但一旦機器人和電腦的能力強大到勞動力不再是瓶頸,我們將進入第二種情境。機器人即使在倍增時仍將保持效用,而支付給機器人所有者的總收入份額將上升到 1。(這將是「節能悖論」[Jevons paradox]。)
稍後,為了讓討論具有意義,我們需要加入:
- 存在一個運作良好的擬人政府,能夠徵收稅款(包括資本稅),且最終能實際收到稅款。
- (不明確)這個政府是否包含某種形式的民主控制?
上述結論是否源於上述前提?
如果你包含那些隱含假設?
那麼是的。非常、非常顯然是。這是基礎數學。
在這種情境下,這聽起來不像我們的主要問題?
在這種情境下,能力足夠的 AI 和機器人正無限制地倍增,並且是人類勞動力的完美替代品。
或許「人類之間的財富分配如何」是個錯誤的問題?
我注意到,對於利潤份額流向 AI、機器人和資本的組合(且佔據全部利潤)的世界,我有更重要的問題。
為什麼隱含假設應該成立?為什麼我們應該假定隨著時間推移,人類能保留資本的主要或全部所有權?為什麼我們應該假設人類能夠保留對這個未來的控制並做出有意義的決定?為什麼我們應該假設人類甚至能保持生理上的生存,更不用說繁榮了?
特別注意「AI 最終不會擁有大量私有財產」這一假設。在這樣的世界中,資本的最佳回報顯然會流向「那些被直接或間接指示去獲取回報的 AI」。因此,如果允許 AI 擁有資本,AI 最終將控制所有資本、機器人以及其他一切。對我來說很有趣的是,他們將慈善信託視為潛在的資本增長來源,卻不考慮 AI。
即使我們假設了這一切,為什麼我們要假設私有財產權會在無限規模上——在擁有星系的層面上——被無限期地尊重?我們為什麼要期望財產權在正常條件下、在地球上能被長期尊重?特別是在一篇呼籲對財富徵收激進稅收的文章中,這本身就是不尊重私有財產的一種核心「溫和」案例。
坦白說,期望現有的私有財產權能無限期地延續到轉型超智慧時代,似乎相當不明智?
Eliezer Yudkowsky:這種巨大、奇異且未經標註的假定是怎麼回事——即由人類法律系統分配的財產權是不可逾越的物理定律?超智慧(ASI)會在意嗎?你還不如用蠟筆在索引卡上寫下「我擁有你」,然後對著大海揮舞。
Oliver Habryka:我真的不明白為什麼會有這種假定,認為財產所有權在這種量級的變化面前是一個穩健的範疇。從歷史上看,它顯然不是!
Jan Kulveit:
應對層級 1:我的勞動力永遠有價值!
應對層級 2:那太天真了。我的 AGI 公司股票將永遠有價值,可能價值好幾個星系!我們可能需要解決人類之間不平等的難題,但私有財產將永遠是神聖且屬於人類的。
接著,如果財產權確實成立,我們是否像 Guive Assadi(以及其他人)所建議的那樣,賦予了 AI 財產權,以給予它們在「法律體系中的利益」,或者僅僅是出於功能性目的?如果不這樣做,AI 將很難運作和交易,或者我們的財產權體系將難以保持功能。如果我們這樣做了,那麼即使人類的財產權仍受尊重,AI 最終也會獲得所有資本。同樣,如果人類失去財富的速度不夠快,預期 AI 會協調起來剝奪人類的財產權,同時尊重 AI 的財產權,這似乎也是合理的;在財產權的歷史中,當原本無權的群體擁有了大比例財富時,這種情況屢見不鮮。
隱藏的「自由意志主義人類本質論」假設仍在繼續。例如,這些「後代」是誰?「遺產」又是什麼?在這些世界中,人們會預期衰老和疾病對人類和 AI 來說都已是解決了的問題。
這類談話和經濟分析聽起來往往與此驚人地相似:
鄭重聲明,這種情境並不合理
這裡描述的世界擁有不再是普通技術的 AI(儘管它在其他地方仍試圖將其視為普通技術),它遠未達到均衡,沒有理由期望它的財產權會被認可或保持意義,它將由 AI 主導,且不會持久。
如果人類真的不再有用,那將打破傳統經濟學的大多數假設和模型,以及其他所有人的模型。人們通常會繼續假設實際上人類在某些方面仍會有足夠的用處,以便讓比較利益原則來拯救我們,卻無法真正理解如果這不是真的,且考慮到成本,人類成為真正的零邊際產量工人時會發生什麼。
Paul Crowley:許多關於人類將如何繼續保持價值的經濟學故事,其所做的假設並不適用。如果模型能做我所做的一切,而且做得更好、更快,且成本比我的伙食費還低,為什麼有人會僱用我?
人們真的很難接受「AI 在每一項任務上都比任何人類強」這個想法。許多人只是跳到某種「超級任務」的想法上,並隱含地假設人類在該任務上更強。Satya Nadella 在 Dwarkesh 的訪談中就犯了這個錯誤。
Dwarkesh Patel:如果勞動力是所有資本增長的瓶頸。我不明白為什麼體育和餐廳會成為戴森球的瓶頸。
這就是重點。如果我們在談論一個戴森球世界,為什麼我們要假裝這些問題有任何重要性或最終意義?在某個時刻,你必須停止玩玩具。
如果我們不認為這涉及戴森球,這一切會更有道理。
在足夠長的時間跨度下,我確實認為我們可以大致了解技術會是什麼樣子,除非意外發現了新的物理學,所以我在此站在 Robin Hanson 這一邊,而不是 Andrew Cote;今天不像 1850 年:
Andrew Cote:這種推理——即人類的未來將無限期地由火箭、機器人和戴森群組成——假設了一種認識論上的完整性,即我們已經知道所有可能技術的未來貿易空間。
這就像在 1850 年說,兩百年後任何沒有大量煤炭儲量的國家都將陷入無法想像的貧困一樣錯誤。除了煤炭、鋼鐵、鐵路和蒸汽機,還能有什麼?
物理學遠未完成,我們僅僅處於技術可能性的開端,而在物理現實中能做的最有價值的事情只能由有意識的觀察者完成,這觸及了量子力學解釋和物理理論本身的核心。
Robin Hanson:不,更有可能的是,我們被限制在一個三維空間、一維時間的時空中,光速是旅行/影響的硬限制,熱力學限制了我們能做的功,而且我們大致知道負熵的主要來源是什麼。我們知道的比 1850 年多得多。
即使在那些假設並非顯然錯誤的地方,或者你想認為它們並非顯然錯誤,並且你還想假設發生了各種奇蹟讓我們躲過了徹底的毀滅,當然也沒有理由認為未來的情況會具有足夠的類比性,使得這些分析真正具有意義?
Daniel Eth:對於建議一個完全轉型的世界來說,這感覺過於自信了。我沒有...
相關文章