newsence

前沿人工智慧公司可能無法離開美國

Lesswrong·大約 1 個月前

總部位於美國的前沿人工智慧公司不太可能遷移到國外,因為行政部門擁有廣泛的權力,可以根據現有的出口管理條例和國際緊急經濟權力法來阻止晶片出口、凍結資產並限制金融交易。

在未來幾年內,總部位於美國的前沿 AI 公司很有可能對國內政治局勢感到非常不滿。這可能是由於民主倒退、政府權力武器化(類似於 Anthropic 最近與戰爭部的爭端),或是因為限制性的聯邦法規(可能包括出於對災難性風險擔憂而制定的法規)所導致。這些公司可能會想要遷出美國。

然而,美國行政部門要阻止這種遷移是非常容易的,而且很可能會這麼做。具體而言,行政部門可以利用現有的出口管制來阻止公司移動大量晶片,並利用其他立法來封鎖離岸外包所需的金融交易。即使以目前行政部門對 AI 的關注程度,這種遷移也很可能會被阻止,而且對 AI 的關注度可能會隨著時間推移而增加。

因此,總體看來,AI 公司即使強烈希望離開,也不太可能離開美國。這進一步意味著 AI 公司將無法把「搬遷」作為防止監管的談判籌碼,儘管他們以前曾嘗試過

感謝 Alexa Pan, Arun Jose, Buck Shlegeris, Jake Mendel, Josh You, Ryan Greenblatt, Stefan Torges, 和 Tim Hua 對先前草案提出的建議。

前沿公司離開將是爆炸性新聞

我認為前沿公司的搬遷舉動將令人震驚。至少在幾週內,這將獲得海量的國際和國內報導(可能比目前一週內所有關於 AI 的報導總和還要多)。頭版將報導由此引發的政治動盪,評論員會推測動機,政治家們則會徹夜難眠。例如,OpenAI 的董事會內鬥就曾讓該公司的媒體曝光率大幅飆升

這就像是洛克希德·馬丁公司(Lockheed Martin)某天宣布要搬到加拿大一樣。Anthropic 僅僅因為與五角大廈爭執使用條款,就面臨被切斷所有國防合約的威脅;對於全面撤離的反應將會嚴重得多。

此舉將向政治領導層發出一個信號:美國正失去關鍵的信心,並威脅到美國在科技領域的全球領導地位。美國公眾對此的解讀可能同樣負面。如此重大的舉動可能會引發連鎖反應,導致投資者和公司集體撤離。至少政府會擔心這種情況發生。

我預見此舉將極大地擴張 AI 政策的「奧佛頓之窗」(Overton window),並促使行政部門立即採取果斷行動。為了平息公眾的憤怒和國家安全官員的警覺,美國總統將被迫採取激進措施來阻止公司撤離。

美國政府很容易阻止 AI 公司離開

利用現有的權限,美國行政部門要阻止這種撤離可能非常容易。

我設想的情景是,一家公司為了擺脫美國政府對其的影響力而移往海外。例如,依賴美國的雲端服務供應商仍會讓政府有能力執行限制。為了實現完全獨立,公司必須遷移其晶片、員工、資金和知識產權(IP)。

總統可以封鎖晶片出口和交易

總統擁有透過行政命令控制出口的廣泛權限。

首先,AI 晶片屬於《出口管制條例》(EAR)的範疇,總統對此擁有直接控制權。這賦予了總統隨意修改出口管制項目的權力。在美國公司大規模出口晶片的情況下,也有充分的法律先例支持出口限制:EAR 的權力先前曾被用於限制向華為出口產品。雖然美國公司的撤離可能不涉及資產銷售,但將受管制物品實體移出美國在 EAR 下構成出口,而阻止這種行為屬於總統的職權範圍。

其次,總統可以援引《國際緊急經濟權力法》(IEEPA),在存在來自國外的「異常且特別威脅」的條件下,凍結任何資產或封鎖任何外國或外國人擁有利益的交易。最後這項條款被廣泛解釋,且可能涵蓋與前沿 AI 能力脫離美國控制相關的威脅。^([1]) 重要的是,即使前沿公司可以在不移動晶片或數據中心的情況下離開美國,該法案仍然適用,因為這種舉動幾乎肯定需要與外國實體進行某些交易。政府可以封鎖公司資金、實體資產和知識產權(如模型權重)的移動。這項權力已被用於限制美國在海外的晶片投資

重要的是,與徵收或國有化不同,更改出口管制和援引 IEEPA 不需要國會批准。這兩項法律都會使嘗試此類出口成為犯罪行為,違反者可能面臨入獄服刑

最終,出口管制的影響取決於公司對美國晶片的依賴程度,我將在「公司無法在沒有美國資產的情況下離開」一節中論證這種依賴度很高。無論如何,根據 IEEPA 進行的資產凍結很可能是致命的。

公司無法違背政府意願將美國資產移出

一家公司想要秘密離開美國幾乎是不可能的。大規模的人員遷移需要數百甚至數千名員工的協調,以及實體和金融資本的大規模轉移,這將引發海量的媒體報導,因此基本上肯定會被政府注意到。

儘管晶片走私普遍存在,但對於前沿公司來說,這幾乎是不可能的。

  • 晶片走私通常是以幾千顆為一批進行的,而前沿公司需要移動數百萬顆晶片。
  • 主要的前沿公司已經受到政府的高度審查,並會仔細追蹤其晶片。
  • 晶片走私也變得越來越困難。《AI 行動計畫》規定了在 AI 晶片上實施位置驗證的計劃,而 NVIDIA 已經開發出必要的技術
  • 阻止走私的政治意願強烈,這促使了多項 旨在 加強執法的新法案出台。
  • 由於使用中的晶片集中在數據中心,政府的監控和安全保障將特別容易。

此外,所有美國公司都將受到任何限制的約束,因此協助搬遷的大型雲端供應商、銀行、運輸公司或顧問也將面臨法律後果。任何非法搬遷的公司都必須基本上獨自移動大量的數據、晶片和資產,這使得偵測變得容易,且幾乎不可能成功。

公司無法在沒有美國資產的情況下離開

公司可能會決定採取「止損逃跑」的絕望策略。畢竟,我所確定的措施可能無法阻止個人帶著私人資金離開。然而,我認為除非該公司已經極其領先於所有其他公司,否則這種策略將使其失去競爭地位。

晶片限制可能是搬遷的主要障礙,因為前沿公司使用的很大一部分算力可能位於美國,因為數據中心的主要來源微軟、亞馬遜和 Google 幾乎所有的 AI 數據中心都在美國。美國政府很可能會致力於保持這種現狀;雖然像沙烏地阿拉伯這樣的國家可能會建造額外的數據中心,但確保美國境內的算力對於公司保持在前沿地位仍然是必要的,這符合現有的政策目標。^([2])

即使一家公司在海外(或在太空)大量投資數據中心,晶片供應鏈仍將是一個瓶頸。EAR 將使更換現有晶片或購買新晶片變得困難,因為政府可以透過威脅晶片製造商失去獲取美國來源設備軟體的管道,來向製造商施壓以切斷對該公司的供應。搬遷的公司基本上需要尋找一個全新的供應鏈,這是一項極其困難的任務。

即使晶片可以移動,任何離開美國的公司也會遭受重大的財務打擊,失去使用美國銀行帳戶、美國投資者和美國銀行的權利。值得注意的是,任何希望在美國開展業務的國際銀行(基本上是每家主要的全球銀行)都將被禁止與此類公司往來。這將使日常融資(如支付員工薪水)變得極其困難。

最後,如果公司放棄在美國的知識產權,將會損失大量的進度。但移動知識產權將是非法的,且很可能被偵測到(一個能力極強的模型在沒有廣泛訓練運行的情況下出現將非常可疑),並成為逮捕參與搬遷的領導層的理由。個人記憶中的專業知識可能不足以與其他總部位於美國的公司競爭。

這些成本可能足以阻止公司嘗試搬遷。

目前的政治意願可能足以阻止前沿公司的離開

我預計絕大多數相關參與者,如總統辦公室、國家安全官員、國會和公眾,都會支持阻止前沿公司離開的措施。

白宮在 2025 年 7 月的《AI 行動計畫》中,將維持 AI 領先地位描述為「國家安全之必要」。這一觀點是兩黨共識;拜登政府發布了一份支持《晶片法案》的文件,聲稱「[美國]不將這項關鍵技術離岸化至關重要」。隨著 AI 在國家安全領域的重要性上升,保護美國 AI 領先地位的感知重要性也可能隨之增加。由於前沿公司的離開將摧毀這種領先地位,阻止它可能會受到官員們的歡迎。國會也支持 AI 的保護主義政策,並在兩黨支持下通過了對晶片外銷的限制大多數公眾支持防止強大 AI 模型出口的措施;這種支持可能會延伸到阻止前沿公司的離開。

白宮致力於維持晶片生產的長期主導地位,這從購買 Intel 10% 的股份中可見一斑。美國還透過取消許可要求以及在某些情況下要求合作夥伴進行對等投資,來推動在美國建立數據中心。拜登政府甚至更具限制性,實施了一項(現已廢除)的規定,要求公司將至少一半的算力留在美國。這些政策表明,政府有足夠的意願阻止公司逐漸將算力移出美國管轄範圍。

現任政府對晶片出口較為寬鬆,但這種寬容不太可能延伸到前沿公司的搬遷。這兩種情況有本質上的不同:

  • 晶片出口有美國境內的受益者(NVIDIA、AMD 和晶片產業的其他公司),其利潤、工作機會和稅收仍留在國內。允許前沿公司離開意味著將部分利潤讓給另一個管轄區,而幾乎沒有經濟利益。
  • 寬鬆的晶片出口可以基於增加擴散和全球對美國公司的依賴而合理化。允許一家大公司將總部遷往海外則沒有類似的理由。
  • 如果 AI 變得更具戰略重要性,晶片獲取可以受到限制,但一旦公司已經離開,就很難強迫其返回美國。

向盟國的搬遷也可能被阻止。針對 AI 公司的制裁可以相對精確,以盡量減少外交影響,例如僅起訴公司領導層並拒絕其使用特定的美國服務(如雲端供應商)。這可能會引起與親密盟友的緊張關係,但美國已有先例限制與安全相關的業務在海外交易,即使是與盟友。鑑於 AI 在美國軍隊中的部署,前沿 AI 可能會受到同樣的對待。即使是盟國政府也可能以與美國利益衝突的方式使用前沿 AI,而公司的離開將減少美國對該盟友的影響力。美國在歷史上曾表現出為了實現政治目標而無視或向盟友及企業施壓的意願:

總體而言,我認為政治意願已經足夠,如果一家總部位於美國的公司明天嘗試搬遷,它將面臨重大的政策挑戰,甚至是被直接禁止。考慮到我上面所描述的伴隨此舉而來的騷動,這一點更是加倍正確。

啟示

我們應該預期主要的美國 AI 公司在可預見的未來將留在美國。即使是較為漸進的離開策略(如逐漸遷移員工和數據中心),也很可能導致政府的強烈反對,而且要與受美國法律約束的機構(如銀行、雲端供應商等)脫鉤仍然非常困難。

重要的是,防止 AI 公司離開比將其國有化要容易得多。現有的先例規定,總統在未經國會同意的情況下不得沒收私人財產,而《國防生產法》中允許此類徵收的部分 已經失效)。雖然某些類型的軟性國有化(例如強制性的政府監督)可能更有可能發生,但對領先公司進行更強有力的控制在政治和法律上可能仍然很困難。因此,我們可以預期出口管制在國有化之前(如果兩者都會發生的話),就能有效地阻止 AI 開發商離開美國。

  • ^(^)最近針對川普關稅的裁決有顯著不同,因為那是稅收而非絕對限制。

  • ^(^)我還沒有找到關於每家前沿公司所使用的算力地理分佈的良好估計,但這對於計劃中的數據中心似乎是成立的。

參與討論

https://lesswrong.com/posts/4tv4QpqLECTvTyrYt/frontier-ai-companies-probably-can-t-leave-the-us