MIRI 正進行六年來的首次募款活動，目標金額為 600 萬美元。前 160 萬美元的捐款將透過 SFF 撥款獲得 1:1 的等額配對。募款活動將於 2025 年 12 月 31 日午夜結束。請支持我們努力改善關於超智慧的對話，並幫助世界規劃出一條可行的前進道路。

MIRI 是一家非營利組織，目標是幫助人類在「超越人類智慧的 AI」這一議題上，做出明智且冷靜的決策。

我們從 2000 年到 2022 年左右的核心重點一直放在技術研究上，試圖讓構建這類 AI 而不導致災難性後果成為可能。最近，我們已轉型為發出警訊，指出超智慧 AI 的競賽正如何將人類推向災難。

在 2025 年，這些努力集中在 Nate Soares 和 Eliezer Yudkowsky 的著作（現已成為《紐約時報》暢銷書）《如果有人造出它，每個人都會死》（If Anyone Builds It, Everyone Dies）上。作者進行了多次公開露面；與政策制定者進行了多次對話；發布了該書詳盡的線上補充資料；以及各種技術治理出版物，包括一份近期報告，其中包含一份可能真正應對超智慧危險的國際協議草案。

目前已有數百萬人觀看了 Eliezer 和/或 Nate 的訪談與現身說法，失控超智慧的可能性以及「是生長出來的，而非打造出來的」等核心觀念，正日益成為公共論述的一部分。但若要讓世界有效應對這一問題，仍有大量工作要做。

在 2026 年，我們計劃擴大努力、聘僱更多人員，並嘗試一系列實驗，以提醒人們超智慧的危險並幫助他們發揮影響力。

為了支持這些努力，我們設定了 600 萬美元的募款目標（440 萬美元來自捐贈者，加上前 160 萬美元獲得 1:1 配對，感謝 160 萬美元的配對撥款），以及 1,000 萬美元的擴展目標（840 萬美元來自捐贈者，加上 160 萬美元配對）。

在此捐款，或繼續閱讀以了解更多資訊。

---

大局觀

如《如果有人造出它，每個人都會死》中所述：

如果地球上任何地方的任何公司或團體，使用任何遠遠類似於當前技術、基於任何遠遠類似於目前對 AI 理解的方法，建造出一個人工超智慧，那麼地球上每個地方的每個人都會死。

我們這句話並非誇張，也不是為了效果而言過其實。我們認為這是根據當前關於人工智慧的知識、證據和機構行為所做出的最直接推論。在這本書中，我們陳述了我們的論據，希望能號召足夠的關鍵決策者和普通大眾認真對待 AI。預設的結局是致命的，但情況並非絕望；機器超智慧尚未存在，其創造仍可被阻止。

領先的 AI 實驗室正明確地競相創造超智慧。在我們看來，世界需要停止這場競賽，而這將需要國際協調。MIRI 設有兩個團隊致力於實現這一目標：

• 一個傳播團隊，致力於向世界發出警訊。
• 一個治理團隊，致力於幫助政策制定者識別並執行應對措施。

---

活動內容

傳播推廣

《如果有人造出它，每個人都會死》是傳播團隊近期主要的關注焦點。我們投入了大量時間和精力準備出版、執行發布，並透過訪談和媒體露面與公眾互動。

這本書引起了相當大的轟動：

• 它立即成為《紐約時報》暢銷書，在非虛構類榜單中排名第 7。它還入選了 Audible 年度最佳榜單和《紐約客》的年度至今最佳書籍等榜單。
• 媒體對其進行了廣泛的評論和討論，例如《衛報》、《商業內幕》、《泰晤士報》、《彭博社》和《對話》。記者對這本書的反應往往兩極分化，有些人稱讚這本書是必讀之作，而另一些人則不屑一顧。
• Nate 和 Eliezer 接受了各種新聞媒體和播客的採訪。在內容方面，我們最喜歡的包括 Hank Green、The World Unpacked、Breaking Points、The Ezra Klein Show 以及 Making Sense with Sam Harris。這些露面獲得了數百萬次的觀看，並引發了公眾的廣泛參與。
• 內容創作者也製作了影片來解釋書中的部分內容，或在更廣泛的專題報導中提到這本書。
• 這本書獲得了來自國家安全機構（例如：一位退役三星將軍和多位前白宮國家安全會議主任）以及頂尖科學家和學者（例如：George Church、Yoshua Bengio 和 Ben Bernanke）的強力推薦。這本書還得到了極其廣泛的公眾人物支持，從 Whoopi Goldberg 到 Matt Yglesias 再到 Steve Bannon。（另見先前關於我們收到的初步推薦語的討論和心得。）

最終目標不是媒體報導，而是一個讓人們理解基本現況並以合理、充分的方式做出反應的世界。現在要自信地評估這本書的影響力似乎還為時過早，但我們看到了令人鼓舞的跡象。

失控超智慧的可能性現在經常出現在 AI 行業的主流報導中。在我們自己與陌生人和朋友的交談中，我們發現人們普遍對這個問題有了更多的認識，並且更加認真地對待它。我們的感覺是，當人們透過自己信任的管道聽說這個問題時，他們對這些擔憂的接受度會更高。

我們與政策制定者的對話在今天感覺比一年前更有成效，多位美國國會議員告訴我們，這本書對他們的思考產生了寶貴的影響。這能在多大程度上轉化為行動仍有待觀察。而且，在世界領導人開始協調國際力量應對這場自殺競賽之前，還有很長的路要走。

目前，MIRI 傳播團隊大約有七名全職員工（如果包括 Nate 和 Eliezer）。在 2026 年，我們計劃擴大團隊。例如：

• 我們需要有人負責追蹤 AI 的發展以及全球對話如何回應這些發展，並協助協調應對措施。
• 我們需要有人來評估和衡量各類傳播方式和論點的有效性，並留意哪些有效、哪些無效。
• 我們需要有人來追蹤並維護與各個同事和盟友（如鄰近組織、實驗室的安全團隊、記者聯繫人等）的關係，並確保在正確的時間部署正確的資源。

我們很快就會發布招聘公告，詳細說明傳播團隊的具體模式和計劃。目前我們還不確定（部分原因是資金限制/預算問題！）我們是會聘僱一兩名新的傳播團隊成員，還是更多。

進入 2026 年，我們預計會減少產出新內容，更多地利用我們現有的內容庫來支持那些正在向其受眾發出超智慧警訊的第三方。我們也預計會花更多時間回應新聞動態，並利用機會接觸新的受眾。

治理

我們的治理策略主要包括：

• 構思解決方案，從高層計劃到細微細節，探討如何有效停止超智慧的開發。
• 與政策制定者、智庫以及其他有興趣制定和執行應對日益增長危險措施的人士接觸。

還有大量工作要做。迄今為止，MIRI 技術治理團隊 (TGT) 主要關注高層問題，例如「監控與前沿 AI 開發相關的 AI 算力是否可能？」以及「國際間停止超智慧競賽會是什麼樣子？」我們才剛剛開始過渡到更具體的細節，例如撰寫《條約初步草案及註釋》，我們在書籍發布時將其發布在書籍網站上，隨後又發布了一份國際協議草案。

我們計劃進一步推動這項工作，並致力於回答以下問題：

• 在不同程度的政治意願下，今天具體可以採取哪些步驟？
• 如果有進行晶片監控和驗證的意願，眼下可能的立法下一步是什麼？各個選項之間的權衡是什麼？
• 在技術上，眼下可能的下一步是什麼，例如：實現防篡改的晶片使用驗證？哪些具體的立法步驟會要求這種驗證？

我們需要將早期的工作擴展為具體、可行、隨時可用的方案，直接交給相關的政治家和領導人（他們的人數與日俱增）。

為了加速這項工作，MIRI 正在尋求支持和聘僱具有相關政策經驗的人才、能夠將艱深的技術概念轉化為易於理解且引人入勝的內容的撰稿人，以及積極主動且有能力的研發人員。^([1])

我們也熱衷於為 MIRI 團隊增加更多有效的發言人和大使，並為那些已被證明有效的發言人騰出更多時間。到目前為止，我們與政策制定者和國家安全專業人士的大部分接觸都是由我們的執行長 (Malo Bourgon)、總裁 (Nate Soares) 或 TGT 研究員本人完成的。這項工作正在取得成效，但更大的團隊還有空間做得更多。

在我們目前的對話中，我們已經聽說政府和智庫的人士認為 TGT 的報告富有洞察力且有用，有些人稱之為同類工作中的頂尖之作。TGT 近期的產出和活動包括：

• 除了與 Nate、Eliezer 等人合作製作條約草案外，TGT 還進一步將該文件發展為國際協議草案，並附帶一系列補充文章對各個要點進行擴展。
• 該團隊在今年早些時候發布了一份研究議程。他們的大部分工作（迄今為止及未來）都屬於該議程，並在多篇深入探討各項細節的論文中得到了進一步探索。TGT 還參加了相關的會議和研討會，並透過外部計劃指導和帶領初級研究員。
• TGT 定期為各政府機構的徵求意見稿 (RFC) 和資訊徵求 (RFI) 提供建議，並透過會議、簡報和論文與政府及其他機構的人士接觸。
• 目前的努力主要集中在美國聯邦政府，但不僅限於此。例如，在 2024 年和 2025 年，TGT 參加了歐盟 AI 法案實務守則工作小組，致力於使歐盟法規更有可能與先進 AI 的失調風險相關。就在四天前，Malo 受邀向加拿大下議院的一個委員會提供證詞；TGT 研究員 Aaron Scher 受邀作為專家小組成員，向聯合國秘書長科學諮詢委員會就 AI 驗證問題發言。

---

以上並非 MIRI 每個人所做工作的詳盡描述；例如，我們繼續支持少量的內部技術對齊研究。

如上所述，我們預計在未來幾週和幾個月內發布招聘公告，概述我們希望加入團隊的職位。但如果您已經對上述的一般性描述產生了興趣，歡迎聯繫 contact@intelligence.org。如需更多更新，您可以訂閱我們的電子報，或定期查看我們的職業頁面（MIRI 全體、TGT 專屬）。

---

募款

MIRI 的目標是擁有至少兩年的儲備金。這使我們能夠更有信心地進行規劃：聘僱新員工、啟動具有長遠眼光的團隊和項目，並平衡募款需求與其他組織優先事項。感謝我們在 2020 年和 2021 年收到的慷慨支持，我們在過去六年裡不需要進行任何募款。

我們預計到 12 月 31 日，今年的支出約為 710 萬美元（與近年來相似^([2])），如果我們沒有籌集到額外資金，儲備金將剩餘 1,000 萬美元。^([3])

進入 2026 年，我們的預算預測中位數為 800 萬美元^([4])，假設會有一些增長和大型項目，由於增長量和項目的不確定性，誤差範圍較大。在我們預測的高端，我們的支出將達到每年 1,000 萬美元以上。

因此，我們預期的年底儲備金距離我們 1,600 萬美元的兩年儲備目標還差 600 萬美元。

今年，我們收到了來自 Survival and Flourishing Fund 的 160 萬美元配對撥款，這意味著我們在 12 月 31 日之前收到的前 160 萬美元捐款將獲得 1:1 的配對。我們只有在有捐款配對的情況下才能收到這筆撥款。

因此，我們的募款目標是 600 萬美元（440 萬美元來自捐贈者，加上前 160 萬美元獲得 1:1 配對）。這將使我們在進入 2026 年和 2027 年時處於良好狀態，並有適度的增長空間。

這是一個雄心勃勃的目標，需要捐贈者支持的大幅增加，但這項工作在我們看來具有極高的優先級，而且未來幾年可能是一個特別重要的機會窗口。過去幾年世界發生了巨大的變化。我們不知道過去的資助者中有多少人也會支持我們的傳播和治理工作，或者會有多少新捐贈者加入。因此，這次募款對於指導我們未來的計劃尤為重要。

我們還有一個 1,000 萬美元的擴展目標（840 萬美元來自捐贈者，加上前 160 萬美元配對）。這將使我們能夠更快地追求新聘僱和新項目，在開展各種實驗的同時仍保持兩年的營運資金。

如需更多資訊或捐款方式的協助，請查看我們的捐款頁面或聯繫 development@intelligence.org。

---

超智慧發展的預設結果是致命的，但情況並非絕望；超智慧尚未存在，人類有能力踩下煞車。

有了您的支持，MIRI 可以繼續這場正義之戰。

立即捐款

• ^(^)除了擴大我們的團隊外，我們還計劃對新人才進行更多指導，他們可能會為 TGT 的研究議程做出貢獻，或者更廣泛地為技術治理領域做出貢獻。

• ^(^)我們在 2019-2024 年的年度支出範圍為 540 萬美元至 770 萬美元，最高點出現在 2020 年（當時我們的團隊規模最大），最低點出現在 2022 年（縮減規模後）。

• ^(^)值得注意的是，儘管這本書取得了成功，但圖書銷售不會成為我們的淨收入來源。正如作者在書出版前指出的那樣，「除非這本書大大超出我們的預期，否則我們一分錢也拿不到」。從 MIRI 的角度來看，這本書的核心功能是試圖發出警訊並激勵世界採取行動，而不是為了賺錢；即使這本書取得了目前的成功，製作和推廣這本書的成本也遠遠超過了任何收入。

• ^(^)我們預計的支出大致平均分配在營運、推廣和研究之間，其中我們的傳播努力屬於推廣，而我們的治理努力主要屬於研究（部分屬於推廣）。我們的中位數預測細分如下：營運 260 萬美元（130 萬美元人力成本，120 萬美元業務成本），推廣 320 萬美元（200 萬美元人力成本，120 萬美元項目），研究 230 萬美元（210 萬美元人力成本，20 萬美元項目）。此預測包括約 60-100 萬美元的新人力成本（全職等效，即假設並非所有人都在 1 月 1 日聘僱）。

請注意，以上內容是過於簡化的摘要；它對於高層次的理解很有用，但為了簡潔起見，我省略了許多限制條件、細節和解釋。