AI 垃圾內容正讓網路充斥虛假的快樂

對於任何有知覺且擁有智慧型手機的人來說，網際網路顯然存在著 AI 垃圾內容（AI slop）的問題。自 2022 年 ChatGPT 發布以來，這個問題變得愈發嚴重，部分社交平台充斥著 AI 生成的文字。現在，已有數據可以支持這些軼事證據。

一份由倫敦帝國學院、史丹佛大學和網際網路檔案館（Internet Archive）的研究人員於今日發表的新預印本研究發現，大約 35% 的新網站是 AI 生成或 AI 輔助生成的。該研究還發現，網路寫作正「日益變得被淨化且帶有人造的開朗」。換句話說，AI 正在讓網際網路變得虛假地快樂。

研究團隊在決定使用 Pangram Labs 的工具之前，嘗試了四種不同的 AI 檢測方法，因為該工具提供了最一致的結果。（儘管團隊發現它在測試中表現良好，但值得注意的是，所有人工智慧檢測工具都不完美。）為了彙編具有代表性的網站樣本，團隊利用了網際網路檔案館的「時光機」（Wayback Machine），該機器收集了網頁的快照。除了量化 2022 年至 2025 年間創建的網站中有多少依賴 AI 生成寫作外，該研究還測試了關於垃圾內容特徵的六種不同理論。

其中一項針對「人造開朗」的測試檢驗了 AI 如何影響網路寫作的語氣。透過將詞彙分類為正面、中性或負面的情緒分析，研究發現「AI 生成或 AI 輔助網站的平均正面情緒得分，比非 AI 網站高出 107%」。研究人員將這種人造快樂的激增視為現有大型語言模型（LLM）「諂媚且過度樂觀本質」的一種「症狀」。透過這種方式，AI 寫作工具討好人類使用者的傾向產生了溢出效應，使得網路寫作的整體基調變得更加甜膩。

另一項測試調查了 AI 生成寫作的增加是否縮減了所提供的「獨特想法和多樣觀點的範圍」。研究人員發現，AI 確實讓網際網路在意識形態上變得不那麼多樣化，AI 網站在「語義相似性」測試中的得分比人類製作的網站高出約 33%。

雖然這兩項測試驗證了研究人員對 AI 的假設，但其他測試則不然。研究人員測試的四個理論並未得到證實。值得注意的是，他們曾懷疑 AI 會導致假消息增加，但他們對證據的分析並不支持這一假設。他們還曾猜測 AI 寫作不會連結到外部來源，且在風格上會比人類寫作更平庸。出乎意料的是，這兩項理論也都沒有得到證據支持。

雖然分析發現 AI 寫作所擁護的觀點更加同質化——具體來說，是更一致地開朗——但寫作風格本身並未被證實變得平淡。這讓研究人員感到非常驚訝，他們原以為會看到明顯趨向於更平庸輸出的轉變。「團隊中的每個人都預期那是真的，」史丹佛大學研究員 Maty Bohacek 表示，「但我們就是沒有顯著的證據來證明這一點。」

在進行分析之前，研究團隊委託進行了一項關於人們對 AI 看法的民意調查。將其與結果進行比較後，他們發現研究人員並非唯一預期落空的人。研究發現，許多關於 AI 寫作的普遍觀念是錯誤的。

與研究人員一樣，大多數受訪者也假設隨著他們看到的 AI 生成網站數量增加，他們會遇到更多假新聞。絕大多數受訪者還假設 AI 寫作會停止連結到外部來源，並且會擁有日益平庸、統一的口吻。「有趣的是，人們往往傾向於預期最壞的結果，」Bohacek 說。

這項研究遠非 AI 對網際網路影響的定論。「我們只是想開疆闢土，」Bohacek 說，他將此視為深入探索的起點。作為 AI 垃圾內容影響的一個縮影，它提供了一種極具人性色彩的洞察：有時候，事情的發展純粹是難以預料的。