AI何時會奪走我們的飯碗？

一旦 AI 取代了我們的工作，我們還能找到新的工作嗎？AI 會連那些新工作也一併奪走嗎？

Seb Krier 最近寫了一篇異常精闢的見解，這將成為本文的核心。

我認為 Seb 在幾個方面過於樂觀，但他的觀點是經過深思熟慮且高度合理的。關鍵在於理解他所做的假設，並明白他僅預測「就業樂觀主義」的時代將持續 10 到 20 年。

相比之下，另一些人則預期無論 AI 能力如何進步，人類的就業甚至人類在收入中的勞動份額都將無限期地保持強勁，即使 AI 在所有任務上都能做得更好，他們通常會引用「比較優勢」作為理由。我將在未來另一篇貼文中集中回應這類主張。

為了消除歧義，本文討論的是下方的第 2 點，但我同時也主張第 1 點和第 3 點：

• 預設情況下，如果 AI 能力持續進步，人類將失去對未來的控制權，且很有可能全數滅亡。

• 如果我們能設法避免這種情況，那麼在「賽博格時代」（The Cyborg Era）的剩餘時間裡，人類很有機會保留大量就業機會，這段時期很可能持續 10 到 20 年。

• 不太可能發生的情況是：AI 能力和可用算力持續增長，而這種狀態卻無限期地延續下去。這是一個過渡狀態。

首先，我將明確列出關鍵假設，然後展開核心動態。

常態即魔法

在大多數討論 AI 對未來就業影響的情境中，都存在一個未經討論的背景「魔法」。那個「魔法」以某種方式確保一切都受人類控制並為人類利益運行，確保人類生存，且通常還維持著我們的政府體系和私有財產權。

我認為事情不太可能這樣發展，或者說這不是預設的發展方向。

我相信預設情況下，如果你製造出足夠強大的 AI，並讓它在經濟中自由運行，人類將不再擁有對未來的控制權，而且很可能所有人都會死。屆時，這裡討論的所有問題都將變得毫無意義。

因此，我希望這個假設始終是明確的，而不是像現在這樣經常被忽視或被視為理所當然。以下是 Seb 的版本，我直接跳到這部分：

Seb Krier：請注意，即使到那時，人類仍然是這個「閉環」ASI（人工超智能）經濟的受益者：同樣地，ASI 經濟並不是為了自己的享樂而生產迴紋針。但當人類「要求」一個新的水下主題公園時，ASI 會更希望人類不要參與生產過程。還記得上面提到的「人類不斷向更高抽象層移動」的觀點嗎？在某個時點，這可能會停止！

為什麼我們應該預期人類仍然是受益者？你不能在沒有正當理由或沒有說明該主張背後的假設的情況下就斷言這一點。

撇開這一點不談，讓我們假設一切順利，並在此基礎上繼續討論。

歡迎來到賽博格時代

Seb Krier 最近撰寫了關於賽博格時代人類就業前景的文章。

「賽博格時代」是指 AI 和人類都對各種工作做出有意義貢獻的時期。

我覺得這篇貼文比他和其他人早期探索這些問題的嘗試要好得多。我希望看到隱含的假設和斷言的時間線能更明確，但就「在缺乏核心遞歸 AI 自我改進」的情況下會發生什麼而言，這似乎是一個相當不錯的見解。

我很欣賞他：

• 清楚地將這個過渡階段與之後的階段區分開來。

• 強調就業需要 (A) 互補性持續存在，或 (B) 人類參與對價值而言是本質性的案例。

• 設定了這一切可能發生速度的預期。

Seb Krier：我們知道，至少到目前為止，AI 的進步是迅速的，但並非突然出現一個不連續的門檻，讓你立刻獲得一個能完美完成人類所做一切的單一智能體；這是一個參差不齊、持續且艱辛的過程，以不同的速度和性能水平逐漸達到各種能力。而且我們已經有了透過國際貿易整合「替代性通用智能」的經驗：其他人類。無論是透過移民還是全球化，新智能池的整合總是參差不齊且不平衡的，而非瞬間完成。

我認為我們最終會達到那裡，但 (a) 這比樂觀者通常預期的要長——我個人認為是 5 到 10 年；(b) 人們通常只關注數位任務——它們當然極其重要，但關於替代/互補的論點也應考慮機器人和物理瓶頸；(c) 這不僅需要強大的模型——還需要適應當地需求、環境和法律背景的產品；(d) 它還需要組織智能以從中獲取價值——例如參見 Mokyr 關於社會/工業智能的著作。這意味著你不會突然得到一個超全能的「即插即用型員工」，能完成所有工作並在一夜之間改變經濟（儘管我們也不應完全排除這種可能性）。

…

因此，我預計賽博格主義將持續很長時間——至少直到 ASI 優越到人類會增加負價值/成為阻礙、算力高度充裕、瓶頸消失，且對人類產物的需求為零為止——這些都是相當嚴苛的條件。

我同意賽博格主義在 AI 能力擴張方面可以「承受很多」。

然而，我認為他最後的預期條件走得太遠了，特別是將需求限制設定為零。這也可能讓人對這一切發生前的預期時間產生錯誤印象。

賽博格時代將在我們有生之年結束

我向他確認過，他的意思是賽博格時代現在正在開始（我同意，而且 Claude Code 你好！），並且他預計這將持續 10 到 20 年左右。這就是「很長時間」所代表的含義。

這絕對不代表「不用擔心」或「我們剩餘的自然壽命」。

那並不是一段很長的時間，即使這種緩慢擴散的假設基本上是正確的。

是的，正如 Alex Imas 所引用的，「人類勞動份額在經濟中保持重要部分的時間，將比 AGI 極大化主義者的時間線所暗示的要長得多」，但在這些情境中，「長得多」並不意味著真的那麼長，而且根據事態發展，這種狀態可能不會持續那麼久，或者人類根本無法存續那麼久。

只要「人類 + AGI」的組合比「單獨 AGI」產生哪怕是一點點邊際收益，人類就保留了比較優勢。

從技術上講，在短期內（例如這 10 到 20 年的窗口期），人類是「已經付過費的」，那麼是的；儘管在越來越多的地方，這可能比你想像的更快失效，因為涉及緩慢的人類並不便宜，而且實際需要的人類數量很容易變得非常少。我建議觀看電影《別無選擇》（No Other Choice），並預期這種互補性將適用於一個不斷縮小的人類群體。

Seb 正確地指出，勞動可以擁有與大型供應鏈脫鉤的價值，但正如他在討論整合成本和界面摩擦時所言，這排除了很多事情。

賽博格時代的過渡性失業將會很高

在這種情境下，我預計很難區分過渡性失業與永久性結構性失業，因為 AI 的擴散和進步速度將超過許多人類適應和重新專業化的速度。

人類將需要反覆地從現有工作轉向其他「影子工作」，這些工作以前並不足以支撐就業，或者代表了全新的機會和生產模式。在賽博格時代，人類在這些新工作中仍有一席之地，或者至少在這些工作也被自動化之前有一段時間。賽博格時代結束後，這樣的工作將不再出現。它們從一開始就會由 AI 完成。

因此，如果擴散時間線和賽博格時代的長度在 10 到 20 年左右，且期間情況保持正常，我預計賽博格時代的後半段將涉及失業率穩步上升和勞動力議價能力下降，即使在當前 AI 擴散水平的「均衡狀態」下這本可以自我修復。

恭喜，你們中的許多人「就只是個人」

Seb 似乎主要認為，確保充分就業的大部分工作將來自於「就只是當個人」的任務，甚至在其他機會大部分或完全消失很久之後也是如此。

這主要源於對人類內部地位財（positional goods）和地位遊戲的相關需求。

如果其他機會真的消失了，我不預期現實中會這樣發展。至少在一段時間內，對這類任務會有需求。但考慮到誰在消費、誰有能力參與此類消費，以及 AI 提供的替代選項，我看不到這如何能達到接近充分就業的程度。

你有品味

Krier 後來也指出，定製化的人類判斷或品味是未來的瓶頸。這種品味會隨著時間演變，所以即使你現在能拍下定製品味的快照，它也不會長久保持「品味完整」。他重申了標準的「總有更多事情要做」觀點：

Seb Krier：人們預期在某個時點，「問題會被解決」——但世界並不是一組有限的任務和待解決的問題。古代人所做的一切幾乎都被自動化了——然而今天的世界比以往任何時候都有更多的偏好需要滿足，有更多的問題需要解決。世界還沒有表現出凝聚成大統一或固定狀態的跡象！當然，可以想像在足夠的能力水平下，生成過程會耗盡，偏好會穩定——但我會感到驚訝。

Yinan Na：品味變化的速度快於自動化捕捉的速度，這個差距可以創造無盡的工作。

這可能有兩種不同的方式讓我們失望。

第一種，如 Seb 所言，是事物達到了靜態的終點。這最終可能會發生。

Seb 忽略的一點，也是我一直強調的一點，是這假設我們在應對新問題、開發新品味或某些新任務 [N] 時能競爭過 AI。即使總有新任務 [N]，也只有在人類比 AI 更擅長 [N]，或者至少有用武之地以調用比較優勢時，人類才能保持就業或有用性。如果這一點崩潰了，我們就完蛋了。

如果這兩者都沒有發生，且我們得以倖存，那麼對於某些人類來說，作為定製品味的仲裁者和創造者仍將有一個利基市場，這仍然是某些增長形式的瓶頸。但人們仍不應指望這會成為主要的就業來源，因為定製品味的創造或判斷能力向來稀缺，且只需要少量的供應。

AI 能力提升的革命

與 Imas 和 Krier 相反，我確實認為，除了「就只是當個人」的任務外，AI 完全取代人類勞動力應該是長期發展的「預設假設」，即使情況在其他方面進展順利，這也是我們最終必須面對的事情。

我不明白為什麼我們會預期有其他結果。

預期提升的革命

我還想指出，即使在這種情境下「實質工資」如 Trammell 預測的那樣上升（我不預測這一點），由於經濟技術增長速度快於勞動份額下降的速度，這也不會解決人們的實際消費問題並讓人們生活得更好，原因我在《預期提升的革命》系列中探討過。是的，想想你從 Claude Code 中獲得的所有價值，但人總得吃飯。

謹慎行事

最終，告誡是現在不要在這一領域進行政策干預：

在具體證據積累起來之前，先發制人的政策手術可能弊大於利。

我同意 Krier 以及 Trammell 的觀點，即特別旨在保護人類工作和就業的干預措施還為時過早。這是一個會隨著時間推移而出現並可以解決的問題，而且存在很多不確定性，我們將邊走邊解決。

我們現在在政策方面需要做的，是專注於更大、更致命且不可逆轉的問題：我們如何在導航這一切的同時，保持生存、保持控制並引導未來。

我們還不應該做的，是旨在保護工作的干預措施。

鴕鳥心態

如前所述，我認為 Krier 給了我們一個很好的見解。相比之下，這裡有一個非常糟糕的見解，作為「無論如何人類總會沒事」態度的例子：

Garry Tan：但更重要的是：人類會想要更多的東西，人類會在 AGI 的協助和強化下做更多的事情。

正如 @typesfast 所說：「如果 AI 做了所有的工作，人們要怎麼賺錢？我認為這極大地誤解了人類本性，即我們會想要更多的東西。人類靈魂深處有一種無限的慾望，沒有上帝就永遠無法滿足。我們需要更多的東西。就像我們必須擁有更多。我們必須擁有更多。」

是的，當然，我們會想要更多的東西，更多的東西會發生，但「AI 做了所有的工作」這句話你哪裡聽不懂？所以我們以前想要 [XYZ]，現在有了 [XYZ] 且還想要 [ABC]，所以 AI 幫我們搞定了 [ABCXYZ]。根據定義，AI 正在完成所有的工作。

你可以說，那很好，你不用工作就有 [ABCXYZ]。如果我們在不參與任何工作的情況下，設法保持主導地位、富有且活著，這確實是一個可以從多種角度看待的結果。但你充其量仍然是失業了。

對於那些認為人類具有某種魔力的極大化比較優勢、無限需求和其他論點，我將在未來的某個日期分多個部分進行全面回應。