大型語言模型導致的大規模監控是必然結果：合約無法改變現狀
我認為 AI 公司與國防部之間的合約無法阻止大規模監控，因為政府隨時可以更換供應商或使用開源模型。要解決這個問題，唯一的途徑是推動立法，針對第三方法理漏洞進行修正，明確禁止在未經授權的情況下使用 AI 分析個人數據。
關於 OpenAI 與戰爭部（DoW）的合約，最好的情況是什麼？
- 我們能查閱完整合約
- 合約條款嚴絲合縫
- OpenAI 的工程師在戰爭部違反合約時能及時掌控局面
- 針對違規行為有實質性的懲罰手段
但即便如此，戰爭部只需更換供應商即可。改用 Gemini，改用 Grok。如果這些模型目前能力不足，那就再等一年。
過去^([1])，戰爭部曾在無搜查令的情況下購買美國人的商業位置數據。在最近的談判中，^([2]) 戰爭部希望使用 Claude 來分析現有數據。在未來，我不認為他們會在這個問題上回心轉意。
阻止這一切的唯一可行方案是：
推動立法
主要問題在於「第三方教義」（Third Party Doctrine）：這是 1979 年最高法院的一項裁決，規定你對於第三方數據不享有隱私權。現在是 2026 年，你手機上的每個應用程式都被視為第三方數據，包括你的私訊和位置。
只要政府是花錢購買的，就是合法的。^([3])
然而，已有多次嘗試修正此問題，例如參議員 Ron Wyden（民主黨）和 Rand Paul（共和黨）在 2021 年提出了 《第四修正案不容買賣法案》（The Fourth Amendment Is Not For Sale Act），該法案本應增加（有限的）限制。值得注意的是，該法案直到 2024 年 才在眾議院通過，但隨後在參議院被否決。我的解讀是，這在過去政治上是行不通的；然而，現在針對大型語言模型（LLM）的使用設置特定豁免條款或許能奏效。這目前對美國民眾來說是一件大事，且潛在危害已得到證實（LLM 已可用於去匿名化），再加上目前的 Anthropic 與戰爭部的新聞。反對監視國家是兩黨的共識。
我的解讀是，這在整體上政治可行性較低。但是！Anthropic 與戰爭部的故事是頭版新聞，LLM 已可用於去匿名化， 且反監視是兩黨共識。一個針對 LLM 使用的狹義豁免條款或許能通過。
這直接引導至下一步。如果你正在 [抵制 OpenAI]，那麼你的 訴求 應該是要求他們推動/遊說立法，明確禁止大規模監視。針對「第三方教義」，或明確規定無論是購買還是附帶獲取的數據，在沒有搜查令的情況下，AI 不得用於分析、輔助或整理。
這甚至不需要是一個獨立法案，它可以作為例如 《國防生產法》 (DPA) 的修正案，該法案將於 9 月 30 日到期。^([4])
合約之爭只是在爭取時間，但最多只有一年，直到戰爭部可以在自己的伺服器上運行開源模型。屆時將沒有合約可談判，沒有紅線可劃定，也沒有安全護欄來提供任何形式的監督。
現在，趁這件事還受到關注，正是推動將其納入立法議程的時候。
[註：這遠超我的專業領域。為了敘述流暢，我使用的語氣比我實際的信心程度更強，而且我對基礎治理的理解可能完全是天真的。如有任何錯誤、誤解或現有相關法案的發起人，請告知我以便連結]
-
^(^)來自這篇文章，內容是關於提出《第四修正案不容買賣法案》的聲明(?)。這篇文章則聲稱國防情報局（DIA）購買了數據，而 DIA 是戰爭部的一部分。
-
^(^)來自《大西洋月刊》（The Atlantic）的一位匿名消息人士：
「週五下午，Anthropic 獲悉五角大廈仍希望使用該公司的 AI 來分析從美國人那裡收集的大量數據。這可能包括你問你最喜歡的聊天機器人的問題、你的 Google 搜尋紀錄、你的 GPS 追蹤路徑以及你的信用卡交易紀錄，所有這些都可以與你生活的其他細節進行交叉比對。」