Signal 創辦人協助 Meta AI 實現加密技術

安全通訊應用程式 Signal 的創辦人、同時也是廣泛使用的開源加密協議開發者及隱私倡導者 Moxie Marlinspike 本週表示，他專注於隱私的 AI 平台 Confer 將開始把其技術整合至 Meta 的 AI 系統中。

每天，透過 Signal、Meta 旗下的 WhatsApp 以及 Apple 的 Messages 發送的數十億條聊天訊息都受到端到端加密（end-to-end encryption）的保護。這項功能讓科技公司以及除發送者和接收者之外的任何人都無法窺探您的訊息，並在過去十年中成為主流。然而，隨著生成式 AI 平台的普及度爆炸式增長，人們現在每天也與 AI 聊天機器人交換數十億條訊息，但這些機器人並不提供端到端加密的保護，這使得 AI 公司可以輕易獲取您的對話內容。

這是刻意設計的結果，因為平台通常希望利用盡可能多的用戶數據來訓練其 AI 模型，並且讓用戶難以選擇不將其資訊用作訓練數據。但隨著聊天機器人和 AI 代理（agents）的功能變得更加強大，一些技術專家和公司正致力於推動建立更受限制且專注於隱私的系統。

「隨著大型語言模型（LLM）的功能持續增強，我們應該預期會有更多數據流入其中，」Marlinspike 在週二發布的一篇關於與 Meta 合作的簡短部落格文章中寫道。「目前，這些數據都不是私密的。它們會與 AI 公司、其員工、駭客、傳票和政府共享。正如未加密數據的一貫情況，它最終不可避免地會落入錯誤的手中。」

Marlinspike 寫道，他將「致力於整合 Confer 的隱私技術，使其成為 Meta AI 的基礎」。他也強調，於今年年初首次亮相的 Confer 將繼續獨立於 Meta 運作。Marlinspike 補充說，該項目的目標是提供一種技術，「讓每個人在獲得 AI 全部能力的同時，也能享有加密對話的完整隱私」。

2016 年，Marlinspike 曾與 Meta 旗下的 WhatsApp 合作，同時向超過十億個帳戶推出端到端加密。在過去一年中，WhatsApp 在其應用程式中引入了 Meta AI 聊天機器人，但該機器人並不像個人聊天那樣受到保護而免於公司的存取。

「人們使用 AI 的方式非常私人，且需要存取機密資訊，」WhatsApp 負責人 Will Cathcart 週三在社交媒體平台 X 上針對與 Confer 的合作寫道。「重要的是，我們構建這項技術的方式必須能讓人們有能力私密地進行這些操作。」

加密 AI 的採用仍處於起步階段。用於傳統數位通訊端到端加密的加密方案，無法輕易或直接轉化為生成式 AI 的數據保護。就 Confer 而言，它仍是一個新項目，Marlinspike 的部落格文章並未提供關於與 Meta 合作具體如何運作，或整合的具體目標為何的詳細細節。

在發布前，Marlinspike 和 Meta 均未向《連線》（WIRED）雜誌提供進一步評論。

紐約大學密碼學研究員 Mallory Knodel 表示，對於使用 Meta AI 聊天機器人的用戶來說，「在該交換過程中擁有保密性和隱私將是非常棒的」。Knodel 指出，至關重要的是，這意味著 Meta 將無法存取 AI 聊天數據進行訓練；她與同事最近剛發表了一項關於端到端加密與 AI 的研究。「我真心希望更多 AI 聊天機器人能採用這種方法。」

Knodel 對 Confer 的初步評估顯示，該平台並不完美，但是一個如何構建私密 AI 聊天機器人的重要範例。

加密貨幣平台 Taurus 的首席安全官、密碼學家 JP Aumasson 至今對 Confer 也得出了類似的結論。「綜合考慮，Confer 可能是目前最好的私密 AI 解決方案，」他告訴《連線》。「當然，它並不完美。它缺乏關於其架構、威脅模型和供應鏈的文件說明。但 Moxie 知道自己在做什麼，並且擁有可靠的過往記錄。」

為 AI 平台開發加密方案的複雜性是一個主要障礙，迄今為止的大部分隱私工作都集中在可獲取的開源模型，或是在 AI 公司與終端用戶之間建立隱私層。例如，正如 Marlinspike 在週二寫道的：「Confer 的技術是建立在開源權重模型之上的。雖然許多人喜歡使用 Confer 處理各種任務，但也有人懷念專有模型的前沿能力。」

與 Meta 的合作為 Marlinspike 提供了一個直接處理封閉模型的機會。「Meta 正在構建先進的前沿模型，因此這將把世界上最私密的 AI 聊天技術與世界上最強大的 AI 模型結合在一起，」他寫道。

無論該項目最終是否能實現所有這些最高級的評價，研究人員向《連線》強調，這次合作具有重大意義。

「Moxie 提出使用可信計算（trusted computing）的建議對我來說是合理的，這是一個至少可以追溯到 1990 年代的概念，」Taurus 的 Aumasson 表示。「其潛在的假設和局限性已被充分理解。再次強調，它並不完美，但對大多數用戶來說可能已經足夠。挑戰在於如何支持與 Anthropic、Google 和 OpenAI 最新的前沿模型一樣出色的模型。」