國防官員揭露人工智慧聊天機器人如何被用於目標打擊決策

根據一位知情國防部官員的說法，美國軍方可能會使用生成式人工智慧（Generative AI）系統來對目標清單進行排名，並就優先打擊對象提出建議，而這些建議將由人類進行審核。這項關於軍方可能如何使用 AI 聊天機器人的披露，正值五角大廈因襲擊伊朗一所學校而面臨審查之際，該事件目前仍在調查中。

一份可能的目標清單可能會被輸入到五角大廈正於機密環境中部署的生成式 AI 系統中。該名要求匿名接受《麻省理工科技評論》（MIT Technology Review）採訪以討論敏感話題的官員表示，人類隨後可能會要求系統分析資訊，並在考量飛機當前位置等因素的情況下，對目標進行優先排序。人類接著將負責檢查並評估結果與建議。理論上，OpenAI 的 ChatGPT 和 xAI 的 Grok 可能成為未來此類場景中使用的模型，因為這兩家公司最近都達成了協議，允許五角大廈在機密環境中使用其模型。

該官員將此描述為一個運作方式的範例，但拒絕確認或否認這是否代表目前 AI 系統的實際使用情況。

其他媒體曾報導，Anthropic 的 Claude 已被整合到現有的軍事 AI 系統中，並用於伊朗和委內瑞拉的行動，但該官員的評論進一步揭示了聊天機器人可能扮演的具體角色，特別是在加速目標搜尋方面。這些評論也說明了軍方部署兩種不同 AI 技術的方式，且每種技術都有其獨特的局限性。

至少自 2017 年以來，美國軍方一直在推動一項名為「Maven」的大數據計畫。它使用較舊類型的 AI（特別是電腦視覺）來分析五角大廈收集的海量數據和影像。例如，Maven 可能會處理數千小時的無人機航拍畫面，並透過演算法識別目標。喬治城大學 2024 年的一份報告顯示，士兵使用該系統選擇並審核目標，從而加快了獲得這些目標批准的過程。士兵透過帶有戰場地圖和儀表板的介面與 Maven 互動，該介面可能會用一種顏色標示潛在目標，另一種顏色標示友軍。

該官員的評論表明，生成式 AI 現在正被添加為一個對話式聊天機器人層——軍方在做出如優先排序目標等決策時，可能會利用它來更快速地查找和分析數據。

生成式 AI 系統（如支撐 ChatGPT、Claude 和 Grok 的系統）與主要驅動 Maven 的 AI 在技術上有本質的不同。這些系統建立在大型語言模型之上，經過實戰測試的程度要低得多。雖然 Maven 的介面強制使用者直接檢查和解釋地圖上的數據，但生成式 AI 模型產出的結果雖然更容易獲取，卻更難以驗證。

該官員補充說，在決策過程中使用生成式 AI 縮短了目標鎖定所需的時間，但在被問及如果人類需要花時間複核模型輸出，還能增加多少速度時，該官員並未提供細節。

在最近伊朗一所女校遭到襲擊並導致 100 多名兒童死亡後，軍用 AI 系統的使用受到了公眾日益嚴格的審查。多家新聞媒體報導稱，這次襲擊是由美國導彈造成的，儘管五角大廈表示此事仍在調查中。雖然《華盛頓郵報》曾報導 Claude 和 Maven 參與了在伊朗的目標決策，但目前尚無證據解釋生成式 AI 系統在其中扮演了什麼角色（如果有的話）。《紐約時報》週三報導稱，初步調查發現，過時的目標數據是造成此次襲擊的部分原因。

近幾個月來，五角大廈一直在加強 AI 在各項行動中的應用。去年 12 月，五角大廈開始透過一項名為 GenAI.mil 的計畫，向數百萬名軍職人員提供非機密用途的生成式 AI 模型，用於分析合約或撰寫簡報等任務。但目前僅有少數生成式 AI 模型獲得五角大廈批准用於機密用途。

第一個是 Anthropic 的 Claude，據報導，除了在伊朗使用外，它還被用於 1 月份抓捕委內瑞拉領導人馬杜洛（Nicolas Maduro）的行動。但在五角大廈與 Anthropic 最近就該公司是否可以限制軍方對其 AI 的使用發生分歧後，國防部將該公司列為供應鏈風險，川普總統也在社交媒體上要求政府在六個月內停止使用其 AI 產品。Anthropic 目前正在法庭上對此定性提出抗辯。

OpenAI 於 2 月 28 日宣布了一項協議，允許軍方在機密環境中使用其技術。伊隆·馬斯克的公司 xAI 也達成了一項協議，讓五角大廈在類似環境中使用其模型 Grok。OpenAI 表示，其與五角大廈的協議帶有限制條件，儘管這些限制在實際上的有效性尚不清楚。

如果您有關於軍方使用 AI 的資訊，可以透過 Signal 安全地分享（用戶名 jamesodonnell.22）。