強化版詐騙：生成式 AI 如何徹底改變網路犯罪

當 ChatGPT 於 2022 年底向大眾發布時，它讓世人見識到生成式人工智慧（AI）如何能輕易地根據簡單的提示詞，產出大量看似由人類撰寫的文本。這迅速引起了犯罪分子的注意，他們很快便開始利用大型語言模型來製作惡意郵件——包括無差別發送的垃圾郵件，以及旨在竊取金錢和敏感資訊的更複雜、具針對性的攻擊。

從那時起，網路犯罪分子便採用 AI 工具來強化其運作。他們利用這項技術執行各種任務，從撰寫釣魚郵件、創建極其逼真且具說服力的深偽（deepfake）片段，到調整惡意軟體（通常稱為 malware）使其更難被偵測。他們還可以使用 AI 自動化搜尋網路和電腦系統中的漏洞、快速生成勒索信，並分析海量的遭竊數據以精確定位最有價值的資訊。

AI 對駭客攻擊本身的影響尚無定論。但我們確實知道，AI 正在降低潛在攻擊者的門檻，為他們提供不斷進化的新功能武器庫，並使他們嘗試滲透目標的速度更快、成本更低、難度更小。例如，國際刑警組織（Interpol）警告，東南亞各地的詐騙中心正利用廉價的 AI 工具，快速鎖定更多潛在受害者，並迅速轉移到新地點。同樣地，阿拉伯聯合大公國最近聲稱挫敗了一系列針對其關鍵部門、由 AI 支援的隱秘攻擊。由於這些垃圾郵件式的廣撒網攻擊可以大規模產出，它們不需要非常精密就能達到預期效果——只需要足夠幸運，進入一台恰好毫無防備的機器，或是在正確的時間進入一名毫無戒心的受害者的收件匣。

許多組織已經在努力應對針對他們的海量網路攻擊。隨著越來越多的犯罪分子嘗試碰運氣，以及公開可用的生成式 AI 系統功能持續提升，這個問題可能會變得更加嚴重。本月初，AI 公司 Anthropic 聲稱，其開發並正在測試的模型 Mythos 發現了數千個關鍵漏洞，其中包括所有主要作業系統和網頁瀏覽器中的漏洞。Anthropic 表示所有漏洞都已修復，但由於這些新功能的出現，該公司正推遲該模型的發布，並成立了一個名為「Glasswing 計畫」（Project Glasswing）的科技公司聯盟，表示在此期間將嘗試把這些功能用於防禦目的。

目前，網路安全研究人員樂觀地認為，較粗糙的攻擊可以透過基礎防禦來阻截，這凸顯了及時更新軟體和遵守網路安全協定的重要性。至於未來我們能在多大程度上抵禦更複雜的攻擊，目前還不明朗。

好消息是，AI 也被用於防禦。微軟（Microsoft）作為眾多監控此類威脅的企業之一，每天處理超過 100 兆個被其 AI 系統標記為潛在惡意或可疑的訊號。該公司表示，在 2024 年 4 月至 2025 年 4 月期間，它成功攔截了價值 40 億美元的詐騙和欺詐交易，其中許多可能得到了 AI 內容的輔助。使此類攻擊成為可能的技術，也可能是未來幾年保護我們安全的最佳手段。