Anthropic 反對由 OpenAI 支持的極端 AI 責任法案

Anthropic 已公開反對一項由 OpenAI 支持的伊利諾州擬議法案，該法案將保護 AI 實驗室，使其在系統被用於造成大規模傷害（如大規模傷亡或超過 10 億美元的財產損失）時免於承擔責任。

這場圍繞州法案 SB 3444 的爭鬥，在 Anthropic 與 OpenAI 之間劃下了關於 AI 技術應如何監管的新戰線。儘管 AI 政策專家表示該立法成為法律的可能性微乎其微，但它仍揭示了兩家領先的美國 AI 實驗室之間的政治分歧，隨著這兩家競爭對手在全美加強遊說活動，這種分歧可能會變得日益重要。

據知情人士透露，Anthropic 一直在幕後遊說 SB 3444 的發起人、州參議員比爾·坎寧安（Bill Cunningham）以及其他伊利諾州立法者，要求對該法案進行重大修改或直接廢除。在給《連線》（WIRED）雜誌的一封電子郵件中，Anthropic 的發言人證實了該公司對 SB 3444 的反對立場，並表示已與坎寧安進行了富有成效的對話，探討將該法案作為未來 AI 立法的起點。

「我們反對這項法案。良好的透明度立法需要確保公眾安全，並讓開發這種強大技術的公司承擔責任，而不是為所有責任提供一張『免死金牌』，」Anthropic 美國州與地方政府關係負責人塞薩爾·費爾南德斯（Cesar Fernandez）在聲明中表示。「我們知道坎寧安參議員非常關心 AI 安全，我們期待與他合作進行修改，將透明度與真正的問責制結合起來，以減輕前沿 AI 系統可能造成的最嚴重傷害。」

坎寧安和伊利諾州州長 JB 普利茲克（JB Pritzker）的代表在發稿前未回應《連線》的置評請求。

OpenAI 與 Anthropic 對 SB 3444 的分歧核心在於：一旦發生由 AI 引發的災難，誰應承擔責任——這是美國立法者直到最近才開始面對的噩夢般潛在情景。如果 SB 3444 獲得通過，只要 AI 實驗室起草了自己的安全框架並發布在網站上，那麼當惡意行為者利用其 AI 模型（例如製造導致數百人死亡的生物武器）時，該實驗室將無需負責。

OpenAI 辯稱，SB 3444 降低了前沿 AI 系統造成嚴重傷害的風險，同時「仍允許這項技術落入伊利諾州人民和企業（無論大小）的手中」。

這家 ChatGPT 製造商表示，它已與紐約州和加利福尼亞州等州合作，建立其所謂的「協調一致」的 AI 監管方法。「在聯邦政府缺乏行動的情況下，我們將繼續與包括伊利諾州在內的各州合作，致力於建立一致的安全框架，」OpenAI 發言人利茲·布爾喬亞（Liz Bourgeois）在聲明中表示。「我們希望這些州法律能為國家框架提供參考，幫助確保美國繼續保持領先地位。」

另一方面，Anthropic 則主張，如果開發前沿 AI 模型的公司的技術被用於造成廣泛的社會傷害，該公司應承擔至少部分責任。

一些專家表示，該法案將拆除旨在阻止公司不當行為的現有法規。「責任在普通法下已經存在，並為 AI 公司採取合理措施防止其系統產生可預見風險提供了強大的動力，」安全 AI 項目（Secure AI Project）共同創辦人兼高級政策分析師托馬斯·伍德賽德（Thomas Woodside）表示，該非營利組織曾協助開發並倡導加州和紐約州的 AI 安全法。「SB 3444 將採取極端措施，幾乎消除了對嚴重傷害的責任。但削弱責任是一個壞主意，在大多數州，責任是目前對 AI 公司最有效的法律問責形式。」

Anthropic 上週在伊利諾州另一項州法案 SB 3261 的聽證會上作證支持該法案，如果通過，該法案將成為全美最強大的 AI 安全法之一。該立法要求 OpenAI 和 Anthropic 等前沿 AI 開發者制定公眾安全和兒童保護計劃，並接受第三方審計員的測試以評估其有效性。

Anthropic 由一群 OpenAI 的離職人員於五年前創立，因大聲疾呼先進人工智慧帶來的潛在風險並倡導預防措施而聞名。這種做法多次讓該公司成為川普政府的眼中釘，後者一直試圖遏制其認為可能阻礙發展的州級 AI 監管。時任川普政府 AI 與加密貨幣主管的大衛·薩克斯（David Sacks）去年在社交媒體上抱怨稱，Anthropic 正在執行一項「基於恐懼煽動的複雜監管俘虜策略」。