請協助我發表《過時》：一本旨在發起人工智慧改革新運動的新書

Lesswrong·大約 5 小時前

我寫了一本名為《過時》的新書，旨在探討人工智慧產業取代人類勞動的競賽，並提出一項全新的 AI 改革運動，超越技術安全的範疇以應對經濟與地緣政治的挑戰。

我寫了一本書！書名是《過時：AI 產業取代人類的兆元競賽——以及如何阻止它》（Obsolete: The AI Industry's Trillion-Dollar Race to Replace You—and How to Stop It）。如果你透過我的出版商（OR Books + The Nation）預購，這本書將在五月上市。

透過這本書，我承擔了雙重使命：讓任何人都能掌握 AI 的現狀及其風險（特別是懷疑論者和左派人士），同時寫出一些讓業內人士也會喜歡並從中學習的內容。一群不偏不倚的早期評論者（也就是我認識的人）認為這本書成功做到了這一點。例如，這是一位持懷疑態度朋友的評論：

感覺我被吸入了一個我多年來一直努力排除在腦海之外的深刻願景……我對 AI 公司和聊天機器人感到一種深層、直覺的不信任，而你能夠在書中各處闡明其中的原因。我想我讀這本書時就像一個非常非科幻、非技術的「普通人」，對 AI 的擴散做出直覺反應……但我以前從未直接面對過 AI 的故事、技術如何運作，以及我的懷疑是否真的缺乏根據。這本書擊中了要點，我認為它在平衡各方觀點方面做得很好，沒有過度陷入炒作。

如果你想支持這本書，現在最有效的方法就是預購並鼓勵他人也這樣做。透過我的出版商預購，你可以在五月拿到書（比 6 月 23 日的大規模發行早幾週），並證明這本書是有受眾的，這在我們努力讓更多人看到它時非常重要。此外，你還能享有 15% 的折扣！

如果你想在社交媒體上分享：Twitter、Bluesky、LinkedIn、Threads。如果你有播客、電子報、出版物或其他可能報導這本書的平台，請發送郵件至 press@obsoletebook.org 並附上你的工作簡介以索取評論副本。

簡而言之，這本書是關於歷史上最大的計畫：企圖讓你變得「過時」。我最糾結的問題是：我們到底該怎麼辦？ 當你列出機器全面取代人類勞動所帶來的種種潛在恐懼時，其實只有一個答案能充分避免這些恐懼：停止。然而，這對於那些需要被說服的人來說是極其反感的，所以我和許多人一樣，試圖尋找一些能提高事情往好方向發展機率、且不會讓我被歸類為天真（例如「建立暫停按鈕」）的提案。

但為了被那些「非常嚴肅的人士」認真對待，我自己其實並沒有表現得真正嚴肅。除非有足夠多的人向掌權者提出要求，否則他們不會去做必要的事情。

當然，思考我在書中提到的「過時計畫」（Obsoleting Project）是一件棘手的事。相信它可能成功的最好理由，也是認為我們的過時是不可避免的最好理由：投入其中的資源規模是前所未有的。它真的能被阻止嗎？我第一個需要說服的人是我自己。在研究這本書的過程中，特別是「核凍結運動」如何讓雷根在軍備控制上轉向（這在最後一章有介紹），再加上觀察到公眾對 AI 的擔憂呈爆炸式增長，這讓我相信「停止」雖然雄心勃勃，但完全是可以實現的。

《過時》參考了與頂尖 AI 研究人員、倡導者和業界內部人士的數百次對話（包括 Geoffrey Hinton、Yoshua Bengio、Daron Acemoğlu、Eliezer Yudkowsky、Shane Legg、Helen Toner、Deborah Raji、Stuart Russell、Ajeya Cotra、Daniel Kokotajlo 和 Dan Hendrycks）。

過去幾年發生了很多變化，在過去六個月裡，當我和這個世界似乎都進入了關鍵時刻時，很大程度上缺席了「大討論」（The Discourse）是令人痛苦的。但如果不寫這本書會更痛苦，因為越來越清楚的是，討論中存在一個「過時」形狀的空洞。

本書涵蓋了 AI 安全的核心概念，但也指出了它們的不足之處，同時提出了思考這一問題的全新方式。以下是我最感興奮的一些想法：

過時計畫（在下文的摘錄中有更多介紹）
AI 改革 —— 該技術最大的末日預言者和最激烈的批評者正陷入一場爭論：今天的 AI 究竟是一個極其有用的工具，還是一個跨世代的騙局。我認為深度學習是不可思議的，但它被錯誤的人出於錯誤的原因指向了錯誤的事物。我們需要的是對這項技術的新視角，我稱之為「AI 改革」，它既脫離了 AI 安全對技術解決方案的狹隘關注，也脫離了那些反射性地否定技術潛力的懷疑論者。
對齊多重危機（The Alignment Polycrisis） —— 經典的對齊問題只涵蓋了技術對齊（讓機器做你想做的事）以及（有時）規範對齊（想要正確的事）。但這種框架遺漏了挑戰的巨大組成部分。為了擴大視野，我引入了「對齊多重危機」。技術和規範對齊只是多重危機的前兩層。第三層是經濟：我們應該預期不受監管的競爭對手會為了在取代人類的競賽中勝出，而只做最有利於競爭的對齊程度。第四層是地緣政治：外國對手的威脅（常被憤世嫉俗地援引）驅動了一場自我實現的逐底競爭。最後，對齊問題的「解決方案」對於解決過時計畫所帶來的問題既非必要也不充分。
2034 屆畢業生 —— 今天的 AI 革命是由深度學習驅動的，它在 2012 年才真正開始發揮作用。如果深度學習時代是一個人，他現在才 14 歲。6 歲時，它幾乎連一個句子都拼不出來。12 歲時，它能寫出還不錯的代碼。現在它正在解決難倒「演算法大師」的問題，並在一個小時內完成長達一年的工程項目。到 2034 年，當 2012 年出生的孩子大學畢業時，還有什麼工作留給他們做？

我最狂野的夢想是，《過時》能像《寂靜的春天》對環保運動或《任何速度都不安全》對消費者安全所做的那樣，為 AI 領域帶來變革。書寫好了，時機很完美，最大的問號在於它是否能引起足夠大的轟動。我正盡我所能促成這件事，但也需要所有能得到的幫助。

幫助的方式

預購這本書！

分享它。 來自已經理解這件事的人的口碑，是這次發布中槓桿率最高的管道。

讀完後在 Goodreads 留下評論。 亞馬遜在發布前不允許評論，所以請在 6 月 23 日或之後在亞馬遜留下評論——即使你是直接透過 OR 購買的，也請在那時留下一則（它會被標記為「未驗證」，但仍然有效）。兩者都很重要：Goodreads 有助於早期的口碑傳播，而亞馬遜的評論在廣泛發布後的頭幾週最為重要。

公開批評這本書。 你很快就會發現，《過時》並不是翻譯給外行聽的正統 AI 安全理論。讓這本書獲得大量關注最令人興奮的事情之一，就是有機會對這些想法進行「紅隊測試」並加以改進。

團體大宗訂購。 如果你組織讀書會、大學社團、職場讀書俱樂部，或者想贈送副本，我的出版商 OR Books 提供階梯式折扣（5-49 本 8 折，50-99 本 7 折，100 本以上 6 折）。請發送郵件至 bulk@obsoletebook.org。注意：大宗訂單對分發很有幫助，但通常不計入暢銷書排行榜，因此對發布最有幫助的仍然是個人預購。

如果你想做得更多——主持讀書會、協助報導、組織活動、撰寫評論——書的網站上有一個表格，讓我能篩選提議並妥善跟進：https://www.obsoletebook.org/#help

如果你有特定的高槓桿引薦（主要的播客主持人、國會議員、從事嚴肅工作的運動組織者），請發郵件給我：press@obsoletebook.org

摘錄 - 過時計畫

一小群人在世界上資源最豐富的組織支持下，正企圖讓人類變得過時。並非該計畫的每個參與者都相信這是可能的，但該計畫的先鋒已經透過對機器智能變革潛力的信念，以及儘管經常承認存在嚴重風險仍願意勇往直前的態度，定義了自己。

該產業的最終目標，也是這個領域最具爭議的術語——通用人工智能（AGI）——讓人聯想到一種可能像我們一樣思考的新型心智。但事實並非如此。而且「AGI」將焦點集中在它可能「是什麼」，而注意力其實應該放在它可能「做什麼」。與其將 OpenAI、Anthropic 和 Google 試圖建造的東西理解為一種新型大腦，不如將其理解為一種新型機器，一種不生產產品或服務，而是生產勞動本身的機器。

為什麼？人類——以及源自人類的勞動——是混亂的。人類一直受到限制，因為人類本身就是限制。繁衍更多人類、教育我們、提供食宿都需要很長時間。我們能做的有限。幾個世紀以來，自動化允許所有者用資本取代部分勞動——用拖拉機取代鐮刀，用織布機取代針——但這僅限於一定程度。

現在，機器智能承諾有潛力消除最後一個限制：我們。這消滅了一個根本性的限制，並開啟了充滿可能性的新世界。正如我們將看到的，其中許多可能性是可怕的。

我在本書中稱為「過時計畫」的領導者們可能會反對這種說法，提供一些關於 AI 將如何增強人類工作或我們將如何找到新工作的陳詞濫調。但他們聲稱的目標是創造出如此明顯超越我們能力的系統，以至於我們幾乎沒有競爭的希望。OpenAI 明確表示，將 AGI 定義為「在大多數具有經濟價值的勞動中表現優於人類的高度自主系統」。

許多人對過時計畫是否會成功持懷疑態度。也許你也是，我不怪你。通常，背景看似同樣資深的人對這項技術的現狀和未來做出了截然相反的斷言。但該計畫的規模確實史無前例。我們認為的大型計畫——鍍金時代的壟斷、曼哈頓計畫、阿波羅計畫——甚至都無法與其規模相提並論。仔細觀察它是否有成功的機會是值得的。

與所有新技術一樣，過時機器如果按預期運作，將創造贏家和輸家。如果你想在當今最大的贏家身上加倍下注——那些開發者、資本所有者和老闆，以及大到足以買到席位的國家和財富——那麼就迎接加速吧。過時計畫本質上是一個不平等引擎，渴望將天文數字般的資本轉化為他人的失業，一切都是為了最大化股東價值。最諷刺的是：這個計畫是建立在人類集體勞動的基礎上，被整體挪用——我們共同的遺產被掠奪以創造私人財富。

理解這些動態——誰贏、誰輸，以及為什麼——對於掌握現在真正發生的事情以及接下來可能發生的事情至關重要。關於有一天可能會思考的機器的書已經有很多了。這是第一本關於有一天可能會生產勞動的機器的書。

討論

https://lesswrong.com/posts/2HfuvYzRZgHpLAgpe/help-me-launch-obsolete-a-book-aimed-at-building-a-new

請協助我發表《過時》：一本旨在發起人工智慧改革新運動的新書

幫助的方式

目錄

摘錄 - 過時計畫