newsence
獨家:赫格塞斯要求 Anthropic 在週五前就 AI 安全防護措施讓步

獨家:赫格塞斯要求 Anthropic 在週五前就 AI 安全防護措施讓步

Lesswrong·大約 1 個月前

國防部長皮特·海格塞斯要求 Anthropic 執行長達里奧·阿莫代在週五前允許軍方不受限制地使用其 AI 模型,否則將面臨包括援引《國防生產法》在內的嚴厲懲罰。儘管五角大廈為了作戰靈活性尋求移除 AI 安全防護,但 Anthropic 仍堅持拒絕將其技術用於大規模監控或自主武器開發。

據 Axios 獲悉,國防部長彼得·海格塞斯(Pete Hegseth)要求 Anthropic 執行長達里奧·阿莫代(Dario Amodei)在週五晚間前給予軍方對其 AI 模型的無限制存取權,否則將面臨嚴厲處罰。

大局觀: 海格塞斯在週二的一場 緊張會議 中告訴阿莫代,五角大廈要麼會切斷聯繫並宣布 Anthropic 為「供應鏈風險」,要麼會援引《國防生產法》(Defense Production Act)強制該公司根據軍方需求量身定制其模型。

為何重要: 隨著關於 AI 安全護欄的爭端 愈演愈烈,五角大廈希望懲罰 Anthropic,但官員們同時也擔心失去對其業界領先模型 Claude 存取權的後果。

  • 「我們還在跟這些人談的唯一原因,是我們需要他們,而且現在就需要。這些傢伙的問題在於他們確實非常優秀,」一位國防部官員在會前告訴 Axios。
  • Anthropic 表示願意為五角大廈調整其使用政策,但不允許其模型被用於對美國人進行大規模監控,或開發無需人類參與即可開火的武器。
  • Anthropic 的 Claude 是目前唯一用於軍方最敏感工作的 AI 模型。

新聞進展: 一位國防部高級官員表示,這次會議「一點也不溫馨」。另一位消息人士告訴 Axios,會議過程保持「禮貌」,雙方都沒有提高音量,海格塞斯還向阿莫代稱讚了 Claude。

  • 海格塞斯告訴阿莫代,他不會讓任何公司主導五角大廈做出作戰決策的條款,或對個別使用案例提出異議。

內幕: 海格塞斯特別提到了 五角大廈的指控,即 Anthropic 曾向其合作夥伴 Palantir 表達擔憂,關於在突襲馬杜洛(Maduro)行動期間使用 Claude 的問題。

  • 阿莫代否認 Anthropic 曾提出過此類擔憂,甚至表示除了標準的營運對話外,從未與 Palantir 提及此話題。
  • 他重申,公司的紅線從未阻止五角大廈執行工作,也未對任何在現場執行任務的人員造成問題。

現場直擊: 為了顯示五角大廈對此爭端的重視程度,陪同海格塞斯出席會議的還包括副部長史蒂夫·范伯格(Steve Feinberg)、負責研究與工程的次長埃米爾·邁克爾(Emil Michael)、負責採購與維持的次長麥可·達菲(Michael Duffy)、海格塞斯的首席發言人肖恩·帕內爾(Sean Parnell)以及五角大廈最高法律顧問、總法律顧問厄爾·馬修斯(Earl Matthews)。

另一方說法: 會後,Anthropic 繼續保持和解的基調。

  • 「在對話中,達里奧對國防部的工作表示讚賞,並感謝部長的服務,」Anthropic 發言人表示。
  • 「我們繼續就使用政策進行誠信對話,以確保 Anthropic 能夠在符合我們模型可靠且負責任的能力範圍內,繼續支持政府的國家安全使命。」

運作機制: 《國防生產法》賦予總統權力,強制私營公司接受並優先處理國防所需的特定合約。

  • 例如,該法在 COVID-19 疫情期間曾被用於增加疫苗和呼吸器的產量。

  • 該法律極少以如此公然對抗的方式使用。這位國防部高級官員表示,其構想是強制 Anthropic 在沒有任何安全護欄的情況下,根據五角大廈的需求調整其模型。

  • 根據一位國防顧問的說法,Anthropic 理論上可以將政府告上法庭,辯稱其提供的並非《國防生產法》可用於加速生產的商業現貨產品,而是已經針對敏感政府用途量身定制的客製化軟體。

  • 五角大廈也在考慮終止與 Anthropic 的合約,並宣布該公司為 供應鏈風險,這將要求大量與五角大廈合作的其他公司證明其工作流程中未使用 Claude。

摩擦點: 切斷聯繫將要求五角大廈為 Claude 準備好替代方案,而 Claude 目前是唯一用於機密系統的模型。

  • 在委內瑞拉行動中使用 Claude 是透過 Anthropic 與 AI 軟體公司 Palantir 的合作實現的。
  • 它也被用於軍方內部廣泛的行政職能。

後續觀察: 伊隆·馬斯克的 xAI 最近簽署 了一份合約,將其模型 Grok 引入機密環境,但目前尚不清楚它是否能完全取代 Claude。

  • 消息人士告訴 Axios,五角大廈一直在加速與 OpenAI 和 Google 的對話,討論將其模型(目前已可用於非機密用途)移入機密系統。
  • 一位熟悉討論的消息人士表示,目前看來,Claude 在多項與軍方相關的應用(如攻擊性網絡能力)中仍領先於其他模型。
  • 該消息人士稱,如果達成協議,Gemini 被視為潛在的替代方案。這將要求 Google 允許五角大廈將其模型用於「所有合法用途」,而這正是 Anthropic 拒絕的條款。

深度閱讀: 五角大廈與 Anthropic 之爭將其他 AI 實驗室推入重大困境

https://www.lesswrong.com/posts/JdKyWmzfv8EeBuxHC/exclusive-hegseth-gives-anthropic-until-friday-to-back-down-1