網路如何摧毀了每個人的謊言偵測器

樂高風格的戰爭罪行指控宣傳影片正充斥著網路動態，這呼應了白宮自身轉向製作神秘預告短片和迷因化視覺內容的趨勢。這不僅僅是內容的漂移，而是資訊戰的新戰線——在這個戰場上，速度、模糊性以及演算法的觸及率，與準確性同樣重要。

據報導，一家與伊朗有關聯的媒體「Explosive News」能在約 24 小時內製作出一段兩分鐘的合成樂高影片。速度就是關鍵。合成媒體不需要經得起長久的考驗；它只需要在查核趕上之前傳播出去。

上個月，白宮發布了兩段模糊的「即將推出」影片，隨後在網路調查員和開源研究人員開始剖析後將其刪除，這進一步加劇了混亂。

揭曉後的結果令人大失所望：只是白宮官方應用程式的推廣活動。但這一事件證明了官方通訊已徹底吸收了洩密、病毒式傳播和平台原生懸疑感的審美。即使官方帳號採用了洩密的審美，質疑紀錄是真實還是合成的，已成為僅存的防禦手段。

真實 vs. 合成：新的摩擦

過去，零數位足跡象徵著真實性。現在，它可能象徵著相反的情況。缺乏痕跡不再意味著某件事是原創的——它可能意味著它根本從未被鏡頭捕捉過。訊號已經反轉：真相滯後，參與度領先。

根據《2026 年 AI 流量與網路威脅基準報告》，自動化流量目前估計佔據了 51% 的網路活動，其擴張速度比人類流量快八倍。這些系統不僅分發內容，還優先考慮低質量的病毒式傳播，確保合成紀錄在查核趕上之前就已傳播開來。

開源調查員仍在堅守陣線，但他們正在打一場數量之戰。過度活躍的「超級分享者」（通常背後有付費驗證支持）的興起，增加了一層虛假的權威感，這是傳統開源情報（OSINT）現在必須應對的挑戰。

「我們永遠在追趕那些不假思索就按下轉發的人，」報導該衝突的開源情報記者 Maryam Ishani 說。「演算法優先考慮這種反射動作，而我們的資訊永遠會落後一步。」

與此同時，戰爭監測帳號的激增正開始干擾報導本身。《衛報》視覺取證主管、調查戰爭罪行的開源情報專家 Manisha Ganguly 指出，Telegram 和 X 上洪水般的聚合內容創造了一種虛假的確定性。

「當開源驗證不再是一種探究方法時——無論是透過確認偏誤，還是當開源情報被用來粉飾官方帳號，或被故意誤用以符合意識形態敘事而非審問它們時——它就會開始創造虛假的確定性，」Ganguly 說。

在此情況下，驗證工具本身也變得越來越難以取得。4 月 4 日，Planet Labs（衝突新聞報導中最依賴的商業衛星供應商之一）宣布，應美國政府要求，將無限期扣留伊朗及更廣泛中東衝突地區的影像，並追溯至 3 月 9 日。

美國國防部長 Pete Hegseth 對於延遲疑慮的回應非常明確：「開源情報並非判斷發生或未發生何事的場所。」

這種轉變至關重要。當獲取原始視覺證據的管道受限時，獨立驗證事件的能力就會縮小。而在那縮小的間隙中，其他東西正在擴張：生成式 AI 不僅填補了沉默，還在競爭定義人們最初所看到的內容。

生成式 AI 變得越來越難以辨認

生成式 AI 平台一直在從錯誤中學習。調查培訓師兼驗證專家 Henk van Ess 表示，許多經典的破綻——錯誤的手指數量、模糊的抗議標語、扭曲的文字——在最新一代的模型中已基本得到修復。Imagen 3、Midjourney 和 Dall·E 等工具在提示詞理解、照片寫實感和圖像內文字渲染方面都有所提升。

但更困難的問題在於 van Ess 所說的「混合體」。

在這些案例中，影像的 95% 是真實照片：真實的元數據、真實的感測器雜訊、真實的光學物理。操縱之處僅在於單一細節——制服上增加的臂章、手中放置的武器、或是細微更換的面孔。像素級偵測器通常會放行，因為它們掃描的是在大多數方面都屬真實的影像。造假的部分可能只有一平方英吋。

「過去所有的舊方法都假設影像是一項紀錄，」van Ess 說。「生成式媒體從根本上打破了這個假設。」

自 2018 年以來一直追蹤合成媒體的深偽（deepfake）研究員兼 AI 顧問 Henry Ajder 進一步指出，AI 不再是顯而易見的，它是嵌入式的。目前網路上流傳的高質量合成內容數量意味著可見錯誤的時代正在結束。取而代之的是看起來完全可信的內容。

為偵測這些內容而構建的工具也有其局限性。Ajder 說，偵測系統並非真相引擎。即使是最強大的工具也會經常出錯，且大多數工具只會給出一個信心分數，而不解釋該分數是如何得出的。「偵測工具絕不應被用作決定行動的唯一訊號，」Ajder 說。

那樣的基礎設施尚未大規模存在。在此之前，負擔轉移到了其他地方——轉移到了最初消費這些影像的人身上。

如何驗證

Van Ess 將其簡化為任何人都可以應用的五個步驟——這不是保證，而是減緩傳播的方法。

曾為 Adobe 和 Synthesia 等公司提供諮詢的 Ajder 認為，長期的解決方案不僅是更好的偵測，而是「溯源」——能夠驗證來源的系統，而不是無止境地追逐假貨。在這種基礎設施大規模存在之前，負擔並未消失，而是發生了轉移。

在一個合成內容移動速度快於驗證速度的系統中，唯一真正的防禦可能是行為上的：猶豫。在轉發前停頓一下。在一個旨在獎勵衝動的系統中，進行幾分鐘的審視。

這篇報導最初發表於《連線》中東版（WIRED Middle East）。