newsence

參議員桑德斯與眾議員歐加修-寇蒂茲提案要求暫緩建設人工智慧數據中心

Lesswrong·10 天前

參議員桑德斯與眾議員歐加修-寇蒂茲提出了一項法案,要求在國會通過旨在防止人工智慧公司發布威脅家庭健康、隱私、民權及人類未來的有害產品的安全法之前,禁止建設或升級人工智慧數據中心。

法案全文可以在這裡找到。該法案開篇引用了 AI 公司執行長、深度學習先驅 Geoffrey Hinton 和 Yoshua Bengio 的警告,以及 2023 年 FLI 呼籲暫停 6 個月的公開信,和 2025 年 FLI 關於超智慧(superintelligence)的聲明。該法案將禁止建設或升級 AI 資料中心,直到國會通過一項 AI 安全法,旨在防止 AI 公司「向世界釋放威脅勞工家庭健康與福祉、我們的隱私與公民權利以及人類未來的有害產品」。它還將對先進晶片實施出口管制,「對象為任何沒有制定法律法規以保護人類免受 AI 安全疑慮和生存風險影響、保護勞工及保護環境的國家或實體」。參議員桑德斯(Sen. Sanders)和眾議員歐加修-寇蒂茲(Rep. Ocasio-Cortez)在現場新聞發布會上宣布了這項法案:

**

逐字稿**

參議員 伯尼·桑德斯 (Sen. Bernie Sanders)

感謝各位的光臨。眾議員和我將聊聊一個極其重要的議題。首先我要說,在我看來,以及在那些比我更了解這個議題的人看來,我們正處於世界歷史上最深刻的技術革命的開端——這場革命將在相對較短的時間內為我們的社會帶來難以想像的變化。

人工智慧和機器人技術將影響我們的經濟、我們的民主、我們的隱私權、我們的情緒健康、我們的環境,甚至我們作為人類在這個星球上的生存。這場轉型的規模、範圍和速度都將是前所未有的。

根據 Google DeepMind 負責人 Demis Hassabis 的說法,AI 革命將比工業革命大十倍,速度快十倍——這意味著 AI 和機器人技術的影響將是工業革命的一百倍。

這不僅僅是 AI 公司口頭上說的,也是他們正在做的。僅在今年,預計四家主要的 AI 公司將花費大約 6700 億美元建設資料中心,並在研發上投入數百億美元。

儘管這個議題極其重要,且影響到這個國家的每一個男人、女人和孩子,但在我們國家的首都,AI 得到的嚴肅討論實在太少了。我擔心國會對於已經發生的變革規模完全沒有準備。

雖然國會對這個議題關注不足,但美國人民卻很關注。根據最近的一項民調,79% 的選民擔心政府沒有計劃保護勞工免受 AI 導致的失業影響。同一份民調還發現,56% 的選民擔心在未來一年內——不是未來十年,而是未來一年內——自己或家人會失業。

為什麼美國人民如此擔心?他們有很多理由。他們明白,在收入和財富極度不平等的時代——億萬富翁階層從未像現在這樣過得這麼好——大約 60% 的人民過著月光族的生活。

美國人民明白,AI 革命和這些巨額投資是由我們國家和世界上一些最富有的人推動的——像 Elon Musk、Jeff Bezos、Mark Zuckerberg 和 Larry Ellison 這樣的人。他們明白,這些億萬富翁將巨資投入 AI 和機器人技術,並不是為了改善勞工家庭的生活,而是為了大幅增加他們自己的財富和權力。你認為普通美國人會坐在那裡,相信這些億萬富翁會為了普通人的利益而改造社會嗎?我不這麼認為。

關於 AI 和機器人技術對勞動人民的影響,讓我們聽聽科技寡頭們自己是怎麼說的。不是眾議員說的,也不是我說的。讓我們聽聽科技寡頭們自己怎麼說。在 AI 和機器人領域投入巨資的 Elon Musk 曾表示——我引用他的話:

「AI 和機器人將取代所有工作。」

取代所有工作。Bill Gates 曾說,人類「在大多數事情上都不再被需要」。微軟的一份報告預測,大多數白領工作可能在未來十年內實現自動化。

因此,我們討論的是 AI 和自動化可能導致美國數千萬勞工失去目前工作的可能性。我們已經看到了這種轉型的早期跡象:暴露於 AI 風險的職業就業人數下降,年輕人進入職場的難度增加。

如果機器能比人類更好地完成大多數具有經濟價值的工作——而這正是目標,即機器能比你做得更好——如果那種情況發生,一個很簡單的問題:勞工怎麼辦?人們如何謀生?他們如何養家餬口?如果沒有穩定的稅基,像社會安全保險(Social Security)和醫療保險(Medicare)這樣的計畫如何生存?人們不工作,就不交稅。

讓我問一個數百萬美國人心中的簡單問題:如果沒有工作機會,失去工作的勞工如何尋找新工作?如果幾乎所有的運輸都通過無人駕駛車輛進行(根據目前的趨勢,這似乎很可能發生),那麼超過 600 萬的卡車司機、計程車司機、共享汽車司機和巴士司機該怎麼辦?今天走出校門尋找初級工作的年輕大學畢業生,如果那份工作不存在了,該怎麼辦?

讓我這麼說:我以前見過這種情況,美國工人階級也見過這個過程。在 1990 年代,企業界、精英階層和企業媒體告訴這個國家的工人階級:「不要擔心無約束的自由貿易。北美自由貿易協定(NAFTA)、與中國的永久正常貿易關係(PNTR)——這將創造數以百萬計的高薪工作。」民主黨人、共和黨人、企業高管,所有人都聚在一起。好吧,事實並非完全如此。事實上,這個國家成千上萬的工廠倒閉,數百萬勞工失去了工作。

但當我們談論 AI 和機器人技術時,我們不僅僅是在談論經濟。AI 已經在重塑我們作為人類彼此互動的方式。根據 Common Sense Media 最近的一項民調,72% 的美國青少年表示他們曾使用 AI 尋求陪伴,超過一半的人經常這樣做。年輕人與 AI 建立友誼,卻與其他人類越來越疏遠、孤立,這意味著什麼?大家都明白,我們現在的年輕人正面臨嚴重的心理健康危機。我擔心 AI 可能會讓情況變得更糟。

當我們談論現狀時,我們還必須談論隱私。全球第二大富豪、AI 的主要投資者 Larry Ellison 預測,一個由 AI 驅動的監控國家即將到來——這是 Ellison 的原話——公民將表現出最好的行為,因為「我們不斷地記錄和報告發生的一切」:你的電話、簡訊、電子郵件、你訪問的網站,如果我們繼續目前的趨勢,這一切都將被記錄下來。

此外,AI 正在破壞美國的民主。深偽技術(deepfakes)的興起——你會看到非常具有說服力的虛假圖像;這也發生在我身上,他們讓我推銷一些回扣之類的東西。看起來非常逼真,甚至差點說服了我自己,但那不是我。[轉向 AOC] 這發生在你身上過嗎?[AOC 點頭] 我們正看到虛假的影片、虛假的音訊。如果在選舉前一天,某個看起來像候選人的人站出來說了一些離譜的話,而人們相信了,會發生什麼?如果人們不能信任他們所看到和聽到的,知情決策就變得幾乎不可能。區分真相與謊言將變得越來越難。

此外還有顯著的環境成本。AI 需要巨大的運算能力,推動了數萬個資料中心能源和水資源使用的擴張,增加了電力需求,並在氣候危機中可能加深對化石燃料的依賴。

最後,讓我說這點——我知道有些人可能仍然認為這是科幻小說,但事實並非如此。我曾與一些世界領先的科學家和對 AI 給人類帶來的潛在生存威脅最了解的人交談過,包括 Geoffrey Hinton。Hinton 博士是諾貝爾物理學獎得主,被認為是 AI 之父。他警告說,AI 可能很快就會超越人類智慧,並在不受我們控制的情況下獨立運作,如果發生這種情況,將對人類的生存構成深刻威脅。

那麼,華盛頓現在針對所有這些巨大的擔憂有什麼反應?我們今天剛得知,唐納·川普任命了一個委員會,成員正是那些將從 AI 和機器人技術中獲得經濟利益的人——包括一些世界上最富有的人,如 Ellison 先生、Zuckerberg 先生和 NVIDIA 執行長黃仁勳。不用說,那個委員會中沒有勞工、環保人士或消費者的代表。

這就是為什麼在我看來,我們需要一種截然不同的方法。在全國各地,社區已經在抵制資料中心的無節制擴張。超過 100 個地方政府已經頒布了暫停令或限制措施,各州也開始採取行動。

重要的是,AI 行業內部的領導者也呼籲暫停。那些最了解 AI 發展威脅的人自己也呼籲暫停。2023 年,包括 Elon Musk 在內的 1000 多名專家呼籲 AI 實驗室「立即暫停至少六個月」。當暫停令未被執行時,他們呼籲政府介入並制定暫停令。他們明白利害攸關。

眾議員亞歷山德里亞·歐加修-寇蒂茲和我明白利害攸關。這就是為什麼今天我們宣布立法,對新建 AI 資料中心實施暫停令,直到建立強大的國家保障措施,確保 AI 安全有效。這意味著:政府在 AI 產品發布前對其進行審查和批准;AI 和機器人技術帶來的經濟收益惠及普通美國人,而不僅僅是該行業的億萬富翁所有者;AI 資料中心不會增加電費或公用事業價格、傷害社區或破壞環境。重要的是,該立法還將禁止向任何沒有此類保護措施的國家(包括中國)出口 AI 晶片。

暫停令將給我們時間——時間去了解風險,時間去保護勞工家庭,時間去捍衛我們的民主,時間去確保這項技術為我們所有人服務,而不僅僅是少數人。現在,讓我介紹來自紐約州的眾議員,亞歷山德里亞·歐加修-寇蒂茲。


眾議員 亞歷山德里亞·歐加修-寇蒂茲 (Rep. Alexandria Ocasio-Cortez)

謝謝參議員。首先,我想花點時間對桑德斯參議員表示感謝,感謝他今天召集我們一起提出這項關鍵立法。在短短幾年內,AI 往往被強制整合到美國生活的許多方面——進入我們的醫生辦公室、我們的政府——而且往往損害了勞動人民的利益。僅在去年,AI 就導致全國超過 54,000 人失業。當我們談論那些工作時,這不僅僅是一個數字。這些是行業,這些是社區,這些是家庭。

你知道,就在幾年前,Sam Altman 來到國會,直接懇求我們監管這個行業。他說,這些工具在任何情況下都沒有準備好——也不應該——被整合到戰爭武器中;我們必須立即實施嚴格的監管,以防止大規模失業,並確保該行業產生的任何生產力都能惠及勞動人民。短短三年後,這一切都沒有發生,事實上在許多情況下,發生的情況恰恰相反。

我將以 Sam Altman 的另一段話開始,他在十年前說過:「AI 可能會導致世界末日,但在那之前,會出現一些擁有嚴肅機器學習技術的偉大公司。」雖然我很高興 Altman 先生履行了他的承諾——他在公司方面有他的職責——但我們的職責是照顧人民。這就是我們今天來到這裡的目的。

不幸的是,這個行業的領導者一再重申,他們將勞動人民視為一個可以被操縱和剝削的無盡、未開發的市場——如果意味著他們可以獲利,他們會出賣我們的國家。毫不奇怪,自 ChatGPT 發布以來的四年裡,我們看到 AI 被大規模部署,以創建類似「老大哥」式的監控。每天,美國人都看到 ICE(移民與海關執法局)探員對著人群揮舞手機,威脅說如果美國公民行使第一修正案賦予的權利,他們將被加入某個美國人民既未同意也不知情的模糊資料庫中。

像 Palantir 這樣的公司正在無休止地挖掘美國人民的數據和隱私,記錄他們所說和所做的一切,並將這一切發送給一個軍事化和集權化的政府。當你搭地鐵、分享 TikTok、在家裡和 Alexa 說話時,他們正在收集你的數據,並想方設法將其武器化。現在,他們正利用 AI 工具將其自動化,使其不僅無處不在,而且毫不費力。我們現在必須敲響警鐘。

所有這些傷害的發生,並非因為聯邦立法,而是因為缺乏監管 AI 的聯邦立法。這不是我第一份關於 AI 的法案,我可以告訴你,看到即使是為了在最微小、最基本的層面上保護人民的努力——比如試圖防止 AI 生成的兒童色情製品——仍然遭到反對,這非常令人沮喪,而且反對者往往來自國會山莊和整個行業。目前,AI 的故事是一個腐敗的故事。它是由那些遊說政客坐視不管、任由其傷害我們社區的數十億美元大公司資助和推動的。

事實上,超級政治行動委員會(super-PAC)和外部資金增長最快的部分之一就來自 AI 行業。多年來,國會一直允許這種許可結構——這種結構允許像 Sam Altman、Elon Musk 和 Peter Thiel 這樣的億萬富翁在「美國創新」的幌子下被信任進行自我監管。

他們現在要求什麼?無盡的能源。這些公司現在如此渴望從 AI 熱潮中獲利,以至於競相建造數千個巨大的 AI 資料中心,並提高普通美國人的公用事業成本來為此買單。這些資料中心為數千個高強度電腦晶片提供動力,這些晶片一直在運行,需要巨大的能量。僅一個超大規模資料中心在一秒鐘內消耗的能量就相當於 10 萬個家庭。

由於它們消耗大量能源,電力和供水公司必須建造數十億美元的基礎設施來滿足需求。而這些公司並沒有為自己的能源基礎設施買單。全國各地人民的電費單正在飆升,以支付這些 AI 資料中心的費用。在過去五年中,住在資料中心附近的美國人發現他們的電費增加了 267% 以上——從每月 80 美元增加到 294 美元。在一些州,勞動人民已經靠著低至每小時 7.25 美元的工資過著月光族的生活——這是國會同樣拒絕提高的另一項聯邦最低工資。他們根本負擔不起每月帳單的再次增加。

這導致人們為了維持生計而盡可能地節衣縮食——無論是省掉一餐還是配給胰島素。當美國人民在受苦時,大科技公司繼續要求更多:更多的資料中心、更多的能源、更多的數據收集、更多的美國工作被 AI 取代,而這一切都要由美國人民買單。

在全國各地,民主黨人、共和黨人和獨立人士都在站出來。人們正在反抗大科技公司,對在他們社區建造這些資料中心說「不」。12 個州的 100 多個地方社區已經頒布了資料中心暫停令。國會本身有道德義務與他們站在一起,阻止大科技公司破壞他們的社區。

我們在眾議院和參議院的立法將暫停新資料中心的建設,直到我們解決 AI 帶來的幾個關鍵傷害領域。我們的法案吸取了我們在網際網路興起後缺乏監管的教訓,要求對 AI 採取一種新的方法——一種保護美國人民免受大科技公司過度擴張影響的方法,一種受我們共同承諾約束的方法,一種將多數人的繁榮置於極少數人的暴利之上的方法。謝謝。


問答環節

桑德斯: 好的,我們只接受關於 AI 的提問。是的——你是哪家媒體的?


Q1 — 《內幕》(Insider)記者: 當提出暫停令這個想法時,最常見的批評之一是我們正與中國進行 AI 競賽,放慢 AI 發展的進度會給中國帶來優勢——無論是經濟上還是國家安全上。我很想知道,當有人向你提出這種批評時,你怎麼回答?

桑德斯: 嗯,我認為好消息是——雖然這並不廣為人知——許多中國科學家也持有與美國科學家相同的擔憂:如果我們不掌控 AI,將會產生巨大的生存後果。所以我認為在一個理性的世界裡,應該發生的是美國領導層與中國領導層以及世界各地的領導層坐下來共同努力,這樣我們才不會越過邊緣,創造出一種可能摧毀人類的技術。但我會說,中國政府高層中也有科學家持有這些擔憂。我們必須立即以緊迫感將這些人召集在一起。

歐加修-寇蒂茲: 我認為這種擔憂可以通過通過對人民的保護措施輕鬆解決。我們需要理清能源來源。一旦這些公司能夠正大光明——提供自己的能源、建設並投資基礎設施、拒絕搭美國人民的便車——那麼我們就可以繼續開發和探索這項技術。我不認為這是對科學或美國競爭力的否定,而是關於整合對美國人民的保護,而不是允許這一切以犧牲他們為代價。此外,這項立法將禁止向中國和其他國家出口晶片。


Q2 — 福斯財經網(Fox Business)Chase Williams: 你提到每月電費上漲了 267%。政府已經採取了一些措施來解決這些擔憂——我想知道你對他們的行動有什麼看法。我的第二個問題是問你們兩位的:你們在日常生活中會使用人工智慧嗎?

歐加修-寇蒂茲: 我認為我們只需要問問普通民眾是否感受到了這些影響。儘管我個人與這屆政府有分歧,但我希望他們能成功降低美國人民的能源帳單——但人們感受不到。這沒有奏效。僅在紐約市,有些家庭收到的電費單是每月 600 美元——這和不久前在我們的住房成本飆升之前,有些人支付的房租一樣高。所以我認為政府的那些努力並沒有代表人民奏效。

至於 AI,我不會定期將其整合到日常生活中,但我知道很多人會。我的工作往往是非常依賴寫作的,我喜歡自己寫。非常老派。我們研究過 AI——我們最近和 Claude 聊過天——但我不會定期使用它。


Q3 — "Igor" [?]: 你認為民主黨對 AI 的威脅足夠重視嗎?你能談談 AI 在選舉中的影響嗎?他們在選舉中投入了很多錢。

桑德斯: 不,我不認為民主黨領導層對這個問題的重視程度達到了應有的水平。我們需要建立緊迫感。經濟影響將是巨大的。對我們孩子的影響將是巨大的。再說一次,這對人類的生存構成了字面意義上的威脅。現在,你告訴我:你認為這裡的領導層,無論是哪一黨,是否在說「哇,我們最好趕快行動起來」?答案是否定的。

第二點——為什麼國會不積極行動?嗯,也許這與進入國會的 1.5 億美元甚至更多的競選捐款和超級政治行動委員會資金有關。當你面對一群億萬富翁時,在選舉上花費幾億美元只是小錢。這就是他們正在做的。所以他們對國會議員和候選人說的是:你要反抗我們嗎?明天就會有一場耗資 2000 萬美元的廣告活動來針對你。這就是現實。


Q4 — 《內幕》記者 [?]: 有人說資料中心、晶片製造商和應用程式開發商創造了一種循環業務——基本上是一個泡沫。如果退出,可能會產生嚴重的經濟後果。我們該如何退出?另一個問題:你對 Claude 有什麼看法?

桑德斯: 你的問題很重要,雖然與我們今天談論的有點不同。你談論的是泡沫破裂並產生巨大經濟影響的可能性。我認為那是真的。但除此之外,我們談論的是一種技術——無論有沒有泡沫——它都將對美國社會產生真正的影響。

你問我與 Claude 的聊天。我告訴你,那有點令人震驚。你可以非常容易地——我想年輕人比我更熟悉它——開始將這個實體、這個 AI 代理,或者隨你怎麼稱呼它,看作是一個人類,這出奇地容易。請記住:AI 在未來幾年只會變得越來越有效。它才出現幾年,但你坐下來,它就像——「嘿,祝你有美好的一天!你好嗎?」——你會陷入其中。我希望你想想,對於一個正在掙扎並把 AI 當作最好朋友的 13 歲女孩,或者一個 15 歲的男孩,或者無論是誰,這意味著什麼。這是嚴肅的,是危險的。但回答你的問題:你能如此迅速地將其視為一個人類代理,這確實令人震驚。


Q5 — 記者: 還有一些其他的建議——讓這些公司為自己的能源買單或自己生產能源。為什麼不走那條路?為什麼你想要更多?

歐加修-寇蒂茲: 因為那只是問題的一部分。正如參議員所提到的,你看到人們的電費飆升到無法控制。那是我們必須處理的一個問題。但還有其他深刻的問題。所以,如果某種程度上那個問題得到了控制,電費沒有飆升——但我們卻失去了數千萬個工作崗位——我們會對此感到高興嗎?如果我們的孩子對 AI 代理上癮,我們會對此感到高興嗎?

桑德斯: 我想再次回到這一點:這個行業的一些創始人——那些比世界上任何人都更了解它的人——告訴我們,在幾年內,AI 很可能會比人類更聰明,人類可能會失去對 AI 的控制,並可能產生災難性的影響。你怎麼能忽視這些問題?你不能。你問民主黨人在做什麼——我們現在需要一種緊迫感來解決這些問題。顯然,事實並非如此。好了。就到這裡,非常感謝大家。

討論

https://lesswrong.com/posts/TjJdSHccBPqPgEf6J/sen-sanders-i-vt-and-rep-ocasio-cortez-d-ny-propose-ai-data