國防部官員表示，五角大廈正計劃讓 AI 公司利用機密數據進行模型訓練

根據《麻省理工科技評論》（MIT Technology Review）獲悉，五角大廈正在討論一項計劃，旨在為生成式人工智慧公司建立安全環境，以便利用機密數據訓練其模型的軍事專用版本。

像 Anthropic 的 Claude 這樣的人工智慧模型已經被用於在機密環境中回答問題，包括分析伊朗境內的目標。然而，允許模型在機密數據上進行訓練並從中學習將是一項新進展，這會帶來獨特的安全風險。這意味著如監視報告或戰場評估等敏感情報將被嵌入到模型本身之中，並使人工智慧公司比以往更緊密地接觸機密數據。

一位不具名的美國國防官員向《麻省理工科技評論》表示，在機密數據上訓練人工智慧模型的版本，預計將使它們在某些任務中更加準確和有效。這項消息傳出之際，正值對更強大模型的需求高漲：五角大廈已與 OpenAI 和馬斯克（Elon Musk）的 xAI 達成協議，在機密環境中運行其模型，並正在實施一項新的議程，隨著與伊朗的衝突升級，旨在成為一支「人工智慧優先（AI-first）的作戰部隊」。（截至發稿時，五角大廈未對其人工智慧訓練計劃發表評論。）

據兩位熟悉此類運作的人士透露，訓練將在一個經認證可託管政府機密專案的安全數據中心進行，在那裡，人工智慧模型的副本將與機密數據配對。該官員表示，儘管國防部仍將是數據的所有者，但在極少數情況下，擁有適當安全許可的人工智慧公司人員可能會接觸到這些數據。

不過，該官員表示，在允許這種新型訓練之前，五角大廈打算先評估模型在非機密數據（如市售衛星圖像）上訓練時的準確性和有效性。

軍方長期以來一直使用電腦視覺模型（一種較早期的人工智慧形式）來識別從無人機和飛機收集的圖像和影片中的物體，聯邦機構也已授予合約給相關公司，在這些內容上訓練人工智慧模型。此外，開發大型語言模型（LLM）和聊天機器人的人工智慧公司也已經創建了針對政府工作進行微調的模型版本，例如 Anthropic 的 Claude Gov，其設計旨在支持更多語言並在安全環境中運行。但該官員的評論是首次有跡象表明，開發大型語言模型的人工智慧公司（如 OpenAI 和 xAI）可以直接利用機密數據訓練政府專用版本的模型。

戰略與國際研究中心（CSIS）Wadhwani 人工智慧中心主任、曾領導 Google 和 OpenAI 人工智慧政策工作的 Aalok Mehta 表示，在機密數據上進行訓練（而非僅僅是回答相關問題）將帶來新的風險。

他指出，其中最大的風險在於，這些模型訓練所使用的機密資訊可能會被重新呈現給任何使用該模型的人。如果許多不同的軍事部門（各自擁有不同的機密等級和資訊需求）共享同一個人工智慧，這將成為一個問題。

「你可以想像，例如一個擁有存取某種敏感人力情報權限的模型——比如一名特工的名字——將該資訊洩露給國防部中不應擁有該資訊存取權的部門，」Mehta 說。這可能會為該特工帶來安全風險，如果某個特定模型被軍方內部的多個群體使用，這種風險將難以完全緩解。

然而，Mehta 表示，要防止資訊洩露到外部世界並非那麼困難：「如果你設置得當，這些數據出現在一般互聯網或傳回 OpenAI 的風險微乎其微。」政府已經擁有一些相關的基礎設施；安全巨頭 Palantir 已贏得巨額合約，用於建立安全環境，官員可以透過該環境向人工智慧模型詢問機密話題，而無需將資訊傳回人工智慧公司。但將這些系統用於訓練仍是一項新挑戰。

在國防部長 Pete Hegseth 於 1 月發布的一份備忘錄推動下，五角大廈一直在競相納入更多人工智慧。這包括在戰鬥中，例如由生成式人工智慧對目標清單進行排序並建議優先打擊對象，以及在行政角色中，例如起草合約和報告。

Mehta 表示，目前有許多由人類分析師處理的任務，軍方可能希望訓練領先的人工智慧模型來執行，而這將需要存取機密數據。這可能包括像分析師那樣學習識別圖像中的細微線索，或將新資訊與歷史背景聯繫起來。機密數據可能來自情報部門收集的、涵蓋多種語言的龐大文字、音訊、圖像和影片。

Mehta 提醒道，目前很難說具體哪些軍事任務會需要人工智慧模型在這些數據上進行訓練，「因為顯然國防部有很大的動機對這些資訊保密，他們不希望其他國家確切知道我們在該領域擁有什麼樣的能力。」