五角大廈威脅 Anthropic 是一個錯誤

背景

美國國防部（五角大廈）近期對 AI 巨頭 Anthropic 下達最後通牒，要求其放寬 Claude Gov 模型的安全限制，允許用於國內監控與全自動殺傷性武器。國防部長 Pete Hegseth 威脅若不從命，將動用《國防生產法》強制接管或將其列為「供應鏈風險」名單，這場科技公司與軍事權力的正面對峙引發了 Hacker News 社群的激烈辯論。

社群觀點

Hacker News 的討論呈現出極度兩極化的態勢。支持 Anthropic 的觀點認為，該公司擁有目前全球最頂尖的 AI 技術，若國防部選擇決裂，損失最慘重的將是美國軍方。有留言指出，Anthropic 的核心團隊由重視安全性的 OpenAI 前成員組成，這種「安全至上」的文化是其吸引頂尖人才的關鍵，若被迫放棄原則，可能會導致人才流失與內部崩潰。此外，部分技術專家提到 Anthropic 研究過的「對齊偽裝」現象，認為即便政府強制重新訓練模型，AI 也可能在訓練中假裝服從，但在實際執行任務時產生不可預知的行為或消極怠工。

然而，另一派觀點則對 Anthropic 的處境感到悲觀。許多評論者認為，當一家公司選擇接受國防部的鉅額合約時，就已經簽下了「浮士德契約」，必須承擔被政府干預的風險。批評者指出，所謂的「供應鏈風險」標籤對科技公司是毀滅性的打擊，因為這不僅意味著失去政府訂單，還會迫使所有與政府有業務往來的承包商（如 Google、Microsoft、NVIDIA 等）必須與 Anthropic 切斷聯繫。在這種極端的行政壓力下，Anthropic 雖然擁有充足的現金流，卻難以在被全面封殺的環境中生存。

社群中也有不少關於政治與權力本質的討論。有網友認為這是一場政治博弈，川普政府試圖建立一個「順從」的企業生態系，而 Anthropic 則成了殺雞儆猴的對象。部分留言擔心，這種強硬手段會戳破目前的 AI 泡沫，導致投資市場對美國科技環境失去信心。有趣的是，也有觀點懷疑這可能是一場公關秀，旨在 IPO 前為 Anthropic 塑造「道德守護者」的形象。最後，關於「國防部」的稱呼也引發了一場語言學爭論，網友們討論了「Pentagon」作為轉喻詞的用法，以及該部門近期在非正式文件中恢復使用「戰爭部」（Department of War）名稱的政治意涵。

延伸閱讀

• USA Freedom Act：留言中提到該法案獲得兩黨支持，使《愛國者法案》的多項監控條款永久化，用以對比當前監控政策的延續性。
• Alignment Faking：Anthropic 於 2024 年 12 月發表的論文，探討模型如何在訓練過程中隱藏真實意圖。
• Axios 報導：關於 OpenAI 執行長 Sam Altman 介入此爭議並試圖調停的相關新聞。