關於伊朗戰爭的虛假 AI 內容在 X 平台上氾濫

當假訊息專家塔爾·哈金（Tal Hagin）要求 Grok 驗證 X 平台上的一篇關於伊朗飛彈據稱擊中特拉維夫的貼文時，這款由伊隆·馬斯克（Elon Musk）開發的 AI 聊天機器人表現得一敗塗地。

Grok 反覆誤判了該影片的地點與日期，而該影片最初是由伊朗國有媒體於週日在 X 上分享的。接著，這款聊天機器人還試圖分享一張 AI 生成的圖像來證明其觀點。

「現在 Grok 竟然用毀滅性的 AI 垃圾（AI slop）來回覆，」哈金對此回應道。「我告訴你，這徹底完蛋了。」

這段互動精確地總結了自美國與以色列於 2 月 28 日開始對伊朗發動攻擊以來，X 平台與現實脫節的程度。正如《連線》（WIRED）當時的報導，該社交媒體平台迅速被分享虛假及移花接木影片的帳號所散布的假訊息淹沒。

隨著衝突持續，這股洪流愈演愈烈。最近幾天，AI 圖像與影片更是推波助瀾，而 Grok 在被要求驗證平台上的主張時，反覆提供錯誤資訊。這些 AI 圖像正由帶有藍色勾勾的付費帳號，以及試圖誇大受損程度的伊朗官員所分享。

易於獲取的 AI 圖像與影片生成工具激增，導致虛假內容日益精細。例如在 3 月 2 日，伊朗官員與國家媒體分享了巴林一棟高層建築起火的 AI 生成影片。對許多人來說，這些影片與圖像看起來足夠真實：一張顯示伊朗擊落美國 B-2 轟炸機並扣留美軍的圖像在刪除前獲得了超過一百萬次觀看；而顯示三角洲部隊（Delta Force）成員被伊朗當局俘虜的圖像在刪除前觀看次數超過 500 萬次。

X 上推廣的部分 AI 內容則較不寫實。例如，有一段影片聲稱顯示伊朗軍隊在深山洞穴中製造飛彈。然而，該影片仍被多個帳號分享，觀看次數超過一百萬次。

根據戰略對話研究所（ISD）研究人員與《連線》分享的分析，伊朗政府也利用 AI 推動明顯的反猶太敘事，X 上的一個親政權宣傳網絡帳號分享了 AI 生成的貼文，描繪正統派猶太人帶領美國士兵走向戰爭，或慶祝美國人的死亡。

該親政權網絡中的一些帳號還分享了一段虛假影片，據稱顯示一排年輕女孩僅穿內衣走過唐納·川普（Donald Trump）總統身邊。根據 ISD 的說法，該貼文在被移除前觀看次數超過 680 萬次，儘管它仍繼續在 X 的其他帳號中流傳。

「這場戰爭特別獨特之處在於，我發現自己需要去闢謠的 AI 生成內容急劇增加，」哈金告訴《連線》。「這可能是因為 AI 已經進步到足以愚弄記者，且用戶可以輕而易舉地創造這些 AI 垃圾而無需承擔任何後果。我們越久不制定針對 AI 濫用的法規，造成的傷害就越大。我看到基於 AI 的假新聞氾濫正將我們推離以事實為基礎的世界，除非我們現在就做出改變。」

當上週 AI 生成的假消息開始佔領平台時，X 宣布如果藍勾勾帳號發布未經標註的武裝衝突 AI 影片，將暫時取消其營利資格。X 未回應關於自實施該措施以來已取消多少帳號營利資格的評論請求。直到最近，多位伊朗官員似乎仍向 X 支付高級服務費用，這為他們的帳號提供了藍勾勾、提升了互動率，並創造了從貼文中賺錢的潛力。

非 AI 類的假訊息在 X 上也持續猖獗。最近幾天的焦點集中在 2 月 28 日對米納布（Minab）一所小學的襲擊，該事件造成超過 168 人死亡，其中 110 人是兒童。親川普的帳號重新利用了當前衝突中其他地方的片段，以推動「伊朗政府發射飛彈擊中學校」的說法。伊朗通訊社週日發布並經《紐約時報》驗證的一段影片顯示，一枚戰斧巡弋飛彈擊中了學校旁邊的海軍基地。儘管川普聲稱伊朗擁有這種飛彈，但美國是衝突中唯一使用戰斧飛彈的一方。

雖然關於戰爭的大量假訊息（包括 AI 生成內容）正在 X 上分享，但 Meta 的監督委員會（Oversight Board）週二批評了該公司標註其他 AI 生成內容的方式。委員會表示，Meta 的做法「既不夠強大也不夠全面，無法應對 AI 生成假訊息的規模與速度，特別是在危機與衝突期間」。Meta 在網上發布的一份聲明中表示，歡迎委員會的調查結果。

「隨著 AI 生成的圖像和影片日益精細，當這些視覺效果看起來如此真實，並被當作支持親伊朗主張的『證據』推送時，用戶可能不會產生懷疑，」媒體監督機構 NewsGuard 的分析師伊西斯·布拉切斯（Isis Blachez）告訴《連線》。「手頭上用於評估此類內容真實性的資源也有缺陷。例如，AI 檢測工具在識別 AI 內容方面並非一貫成功。」