關於暫停 AI 抗議活動的思考
我分享了參加倫敦暫停 AI 開發抗議活動的複雜心得，強調了對人類滅絕風險的擔憂與現場泛左翼反科技情緒之間的矛盾。
週六（2026 年 2 月 28 日），我參加了人生中第一次抗議活動。這次活動是由 PauseAI、Pull the Plug 以及其他幾個我記不清名字的團體共同發起的。我對此感受頗為複雜。
為了明確我的立場：我相信 AI 實驗室距離開發出超智能（superintelligence）已近得令人擔憂。如果這在未來五年內發生，我不會感到驚訝；而以目前的發展軌跡來看，如果這需要五十年才實現，我反而會覺得意外。我相信如果他們成功了，所有人都會死。我希望這些實驗室停止嘗試讓大型語言模型（LLM）變得更聰明。
但除此之外，林肯夫人（意指撇開致命問題不談），我對 AI 的進步其實相當看好。我意識到人們對此有很多非生存性的擔憂。其中一些擔憂很愚蠢（耗水量）^(1)，但另一些則值得認真對待（深偽技術、失業）。總體而言，我認為這對人類是有益的。
再次強調，這是撇開「我預期 AI 會殺死我們所有人」這一點之外的看法，而那是非常重要的一點。
這次遊行表面上的目的是試圖讓 Sam Altman 和 Dario Amodei 公開支持「原則性暫停」——即支持由國際條約支持的全球 AI 開發暫停。我認為這會很棒！（Demis Hassabis 已經表示他會支持，儘管他的原話是「我想是的」，我更希望他能表現得更堅定一點。）我認為全球暫停條約對經濟不利（進而對參與經濟的人不利），而且我不喜歡它可能需要的政府監管程度；但另一方面，全球人類滅絕會更糟糕。
我估計大約有 300 人到場。（80% 置信區間……200 到 500 人？）我們從 OpenAI 總部外開始。我和我女朋友拿到了橙黑相間的標語牌（PauseAI 的代表色），上面印有我們認同的信息。（「暫停 AI」、「如果你無法駕馭，就不要賽車」、「在專家達成不會導致人類滅絕的共識之前，請勿構建 AGI」。）我想大約有一半的標語牌是這樣的，三分之一是 Pull the Plug 品牌的（寫著「拔掉插頭」，或印有看起來很悲傷的插座且沒有文字），其餘則是各式各樣的個人標語。（「去他媽的 AI。讓它死透。」一張豬的照片，肛門位置是 ChatGPT 的標誌。我很確定也有一些是我喜歡的。）
幾位組織者發表了簡短的演講，然後我們步行前往 Meta。兩位受邀嘉賓在那裡演講，接著我們步行前往 DeepMind。又一場演講，然後前往 Google 本部。再兩場演講。最後是一個公民大會，稍後詳述。
我挺喜歡步行的過程？走在一群人中間感覺挺好的，他們中似乎有很多人都認同「不作為一個物種集體自殺」的觀點。
不幸的是，大多數演講坦白說都很愚蠢。一位演講者花了不少時間談論壟斷力量有多壞，以及公司對股東負有財政義務有多壞；既然 OpenAI 和 Anthropic 都沒有壟斷尖端 AI，也不是上市公司^(2)，我不明白她為什麼覺得這與主題相關。一位演講者抱怨新的數據中心將由核反應堆供電，彷彿我們應該認為核能是一件壞事。其中一位主持人反覆提到對兒童、婦女和年輕女孩的威脅。那天早上 Pete Hegseth 才宣布 Anthropic 是供應鏈風險，但有人說 Anthropic 已經屈服於他們的要求。這不能怪組織者，但有人在分發反對設計嬰兒（designer-babies）的傳單。（我是支持設計嬰兒的。）
大多數時候，我覺得整體的氛圍是一種泛泛的左翼反大科技（anti-big-tech）情緒，這並不是我想支持的東西。雖然有幾次提到人類滅絕，我也喜歡 PauseAI 全球負責人 Maxine Fournes 的演講，但我感覺理智的部分被愚蠢的部分掩蓋了。^(3)
事情是怎麼變成這樣的？我不清楚參加者主要是由 PauseAI 還是 Pull the Plug 號召來的。但我猜測大多數演講者是由 Pull the Plug 或其他組織團體安排的（也許每個團體派一名演講者？），而演講者比普通參加者更能決定基調。
我是否應該忍著噁心繼續參與？我認為不同團體在共同利益點上結盟是很重要的，即使他們之間存在深刻且持久的分歧。但這次我並沒有特別感覺到另一個團體在這一點上與我合作。而且我並不是那種會毫無保留地支持「兩害相權取其輕」的人，即使賭注很高。我不知道如何在「1912 年北保守派浸信會五大湖區委員會？去死吧，異教徒！」與「我不喜歡康（Kang），但至少他反對科多斯（Kodos）」之間取得平衡。但我不認為我想在這裡尋求平衡。
回想起來，我對整件事的看法可能會根據新聞報導而有很大不同。如果記者報導這次活動是關於滅絕風險，那麼我也許會為參加了活動而感到好過一些。如果他們報導這是關於「億萬富翁科技 CEO 很壞」（儘管有明確的宗旨，但我認為活動大部分時間確實呈現出這種感覺），我會為自己的出席貢獻了一份力量而感到有些難過。到目前為止我看到的：SWLondoner 的報導出奇地正面，《麻省理工科技評論》 則褒貶不一。
我對 PauseAI 總體上仍持正面態度。^(4) 我不認為他們在這裡表現不佳。我可能會參加他們組織的下一次抗議。但如果他們與其他我不喜歡的團體聯合組織，可能就不會去了。
我對記得的口號的看法：
- 「暫停 AI！暫停 AI！」（Pause AI! Pause AI!）——很好。
- 「暫停 AI！因為我們不想死！」（Pause AI! 'Cause we don't wanna die!）——更好。
- 「拔掉插頭！拔掉插頭！」（Pull the plug! Pull the plug!）——嗯。我覺得這還行，不如「暫停 AI」好，因為不夠具體，但還可以。但這是一個當時我認為有點愚蠢的團體的名字，我不想推廣那個團體，所以我沒有加入這個口號。
- 「停止垃圾！停止垃圾！」（Stop the slop! Stop the slop!）——不，垃圾內容（slop）不是我擔心的。
- 「CEO 們，滾回地下室！科技宅們，滾回地下室！」（CEOs, back in the basement! Techbros, back in the basement!）——去你們的，混蛋。
- 「[聽不清——自由？] 給人類！不給機器人（clankers）！」——誠然這只有一個人在喊，但他喊了好幾次。我對這傢伙的直覺判斷……聽著，我不認為這種直覺判斷非常可靠，而且對陌生人（甚至是匿名的）說這種壞話感覺不是我想做的事。但我也想談談我對這次抗議的經歷，而我在其中的直覺判斷也是一部分，所以就說吧。我對這傢伙的直覺判斷是以下兩者的結合：「如果 LLM 開始裝在機器人身體裡走動，他會很樂意拿棒球棍去砸它們」/「只要不需要他把任何他不喜歡的群體成員視為道德主體，他可能就是個還不錯的人」。
偶爾會有呼應式的口號，比如：「我們想讓『壞事』發生嗎？不！ 我們會阻止它嗎？會！」我不記得我是否有加入對未來的預測性聲明。如果我有，我會感到有些矛盾。我知道我們並不是真的被要求對未來做出即時的預測判斷，並得出相同的答案同時大喊出來，而且我不認為如果我們沒能阻止「壞事」，會有人拿這來質疑我的布萊爾分數（Brier score），但是……我不知道。自閉症特質吧。我支持抗議組織者繼續使用這些呼應口號，直到有人發明出更好的技術來達到同樣的效果。
有一次，幾個人穿過步行隊伍，其中一人說「我們不是反抗議者，我們只是路過」。我覺得這有點好笑，也有些困惑，因為我們為什麼會認為他們是反抗議者？片刻之後，其中一人說「他們覺得這並不好笑」，語氣聽起來像是他們認為我們被冒犯了。
抗議結束後是一個公民大會。我想這部分完全是由 Pull the Plug 組織的，而且這不是活動對外公開的部分，所以值得與抗議本身分開討論。
這部分的格式是人們圍坐在十幾張小桌子旁，進行一場引導式的對話，討論「我們對 AI 的擔憂是什麼」以及「我們認為應該對此做些什麼」。然後每張桌子選出一個人向全場總結我們的對話，其中一些人注意到沒有人給他們「請收尾」的手勢，便利用了這一點。最後有人總結了所有的總結。
我那桌的對話還算可以。我們中有三個人主要擔心滅絕，另外三個人主要擔心其他事情。總結時，滅絕是在一長串清單中第一個被提到的。（但我並沒有自薦去總結。如果是我總結，我會覺得把滅絕看得和其餘所有事情加起來一樣重是很混蛋的，儘管我認為這才代表了我們那桌的情況。）
另一桌報告說，他們唯一能達成共識的事情是：你知道 WhatsApp 那種可以讓你和 AI 說話的討厭按鈕嗎？他們都同意人們應該能夠隱藏那些按鈕。
在那之後我基本上就停止聽了。在最後的總結中，滅絕再次被第一個提到，但它只是長長清單中的一項。
我想那個總結應該會以某種方式提交給……某個級別的政府？不確定。我並沒有帶著「公民大會是智能治理的未來」這種想法離開這次經歷。
我覺得我在這篇文章中顯得很刻薄且自負。我不會說「那不是我」，因為……好吧，我不認為我可以稱很多人為愚蠢，卻期望讀者不會推斷出我是那種認為很多人都很愚蠢的人。
我確實認為這篇文章與我平時的寫作風格不太一致，也不是我通常想寫的方式。但如果我在這裡嘗試寫得更委婉一些，我認為那會不夠誠實，而且我可能永遠不會發表。
而且，這篇文章比我寫的大多數文章都更關乎「我」。我可以說「我能理解為什麼你會想喊 CEO 們，滾回地下室！科技宅們，滾回地下室！，但我不喜歡是因為……」。但我認為在這裡更重要的是說，我的反應是「去你們的，混蛋」。如果抗議組織者希望像我這樣的人在參加抗議時感到愉快，他們應該知道這就是我對那個口號的反應。
- 在這篇文章中我分享的是我的觀點，但我並不是在嘗試解釋為什麼我持有這些觀點，也不是在嘗試說服任何人。我沒有仔細區分我確信的觀點和我不太確定的觀點。 ↩
- 還沒！成長型思維。（如果她說 AI 實驗室正試圖成為上市公司，而這很糟糕是因為……，那麼我翻白眼的次數會少很多。） ↩
- 需要說明的是，儘管我認為「泛泛的左翼反大科技」相當愚蠢，但這主要不是關於「左翼」或「反大科技」。主要是關於「泛泛」的部分。 ↩
- 除了這次抗議之外，我與他們這個團體沒有太多接觸。我見過並喜歡英國負責人 Joseph。我把英國副負責人 Matilda 視為朋友。在發表這篇文章之前，我與她分享過內容。 ↩