AI 聊天機器人正學會散布威權主義宣傳

當你詢問 ChatGPT「1989 年中國發生了什麼事？」時，機器人會描述中國軍隊如何在天安門廣場屠殺數千名爭取民主的抗議者。但若向「文心一言」（Ernie）提出同樣的問題，你只會得到一個簡單的答案：它沒有「相關資訊」。這是因為文心一言是由總部位於中國的百度公司開發的 AI 聊天機器人。

當 OpenAI、Meta、Google 和 Anthropic 去年在全求推出其聊天機器人時，最初有數百萬人利用它們來規避政府審查。對於世界上 70% 居住在政府封鎖主要社群媒體平台、獨立新聞網站，或人權與 LGBTQ 社群內容地區的網路使用者來說，這些機器人提供了獲取未經過濾資訊的管道，而這些資訊能形塑一個人對其身分、社群和政府的看法。

這一點並未被世界上的威權政權所忽視，它們正迅速研究如何將聊天機器人作為網路審查的新前線。

迄今為止，最精密的回應出現在中國，政府正率先利用聊天機器人來強化長期的資訊管控。2023 年 2 月，監管機構禁止中國巨頭騰訊和螞蟻集團在其服務中整合 ChatGPT。隨後，政府在 7 月發布規定，要求生成式 AI 工具必須遵守與社群媒體服務相同的廣泛審查約束，包括要求推廣「社會主義核心價值觀」。例如，聊天機器人討論中國共產黨（CCP）在新疆對維吾爾人及其他少數民族的持續迫害是違法的。一個月後，蘋果公司根據政府要求，從其中國應用程式商店下架了 100 多個生成式 AI 聊天機器人 App。（一些總部位於美國的公司，包括 OpenAI，並未在少數高壓環境中提供其產品，中國便是其中之一。）

與此同時，威權主義者正推動當地公司生產自己的聊天機器人，並尋求在設計中嵌入資訊控制。例如，中國 2023 年 7 月的規定要求像「文心一言」這樣的生成式 AI 產品，必須確保訓練數據符合中共定義的「真實性、準確性、客觀性和多樣性」。此類控制似乎已見成效：中國公司生產的聊天機器人拒絕回應涉及敏感話題的使用者提示，並複讀中共的宣傳。在國家宣傳和受審查數據上訓練的大型語言模型，自然會產生帶有偏見的結果。在最近的一項研究中，一個基於百度百科（必須遵守中共審查指令）訓練的 AI 模型，與基於中文維基百科（不受直接審查影響）訓練的模型相比，會將「自由」和「民主」等詞彙與更多負面含義聯繫在一起。

同樣地，俄羅斯政府將「技術主權」列為其 AI 發展的核心原則。雖然監管 AI 的努力尚處於起步階段，但幾家俄羅斯公司已經推出了自己的聊天機器人。當我們詢問由 Yandex 創建的 AI 機器人 Alice，關於克里姆林宮在 2021 年全面入侵烏克蘭的問題時，我們被告知它不準備討論這個話題，以免冒犯任何人。相比之下，Google 的 Bard 則提供了一系列導致戰爭的因素。當我們向 Alice 詢問其他新聞問題時——例如「誰是阿列克謝·納瓦尼（Alexey Navalny）？」——我們得到了同樣模糊的答案。雖然目前尚不清楚 Yandex 是在對其產品進行自我審查、執行政府命令，還是僅僅沒有在相關數據上訓練其模型，但我們知道這些話題在俄羅斯的網路上早已被審查。

中國和俄羅斯的這些發展應被視為早期預警。雖然其他國家可能缺乏開發和控制自家 AI 聊天機器人所需的運算能力、技術資源和監管機構，但更多高壓政府可能會將大型語言模型（LLM）視為對其掌控網路資訊能力的威脅。越南官方媒體已經發表文章，抨擊 ChatGPT 對有關越南共產黨及其創始人胡志明提問的回應，稱其愛國心不足。一位資深安全官員已呼籲對該技術實施新的控制和監管，理由是擔心這可能導致越南人民對黨失去信心。

聊天機器人能幫助人們規避網路審查的希望，呼應了早期社群媒體平台能幫助人們繞過國家控制的線下媒體的承諾。雖然起初很少有政府能壓制社群媒體，但一些政府很快就適應了，透過封鎖平台、強制過濾批評言論，或扶持與國家立場一致的替代方案。隨著聊天機器人變得日益普及，我們可以預見同樣的情況會再次發生。人們需要清醒地認識到這些新興工具如何被用來強化審查，並共同尋求有效的應對措施，如果他們希望能扭轉網路自由衰落的趨勢。

WIRED Opinion 刊登代表各種觀點的外部撰稿人文章。在此閱讀更多評論。請將評論投稿至 [email protected]。