尼克·克萊格不想談論超級人工智慧

尼克·克萊格（Nick Clegg）並非 AI 末日論者。但也不要稱他為推手。這位前 Meta 全球事務總裁表示，雖然他希望 AI 能自動化處理某些摩擦，但他不願意參與所有關於超級人工智慧（superintelligence）的討論。

自克萊格於 2025 年 1 月離開 Meta（就在唐納·川普重返白宮前幾天）以來，這位前英國副首相對自己下一步的計劃一直保持相對低調。直到本週，他宣布受邀加入兩家 AI 公司的董事會：英國數據中心公司 Nscale 和教育新創公司 Efekta。

Efekta 是瑞士 EF 教育第一（EF Education First）公司的拆分企業，銷售一種基於 AI 的教學助手，旨在適應學生的能力並向教師發送進度報告。其目標是複製傳統課堂環境中無法實現的一對一教學模式。該公司表示，該平台目前約有 400 萬名學生使用，主要分布在拉丁美洲和東南亞。他們希望克萊格能利用他在政治和科技領域的經驗，為 Efekta 擴展新市場提供諮詢。

上週我們在 EF 倫敦西區的辦公室見面時，克萊格表示他相信課堂將是首批被 AI 徹底改善的場景之一。但他對 AI 競賽的政治局勢則沒那麼樂觀，他認為這將進一步使權力集中在矽谷。他對那些他聲稱「扼殺了歐洲 AI 創業者」的「討厭的布魯塞爾官僚」，以及那些「拜倒在川普腳下」的大科技公司精英，表達了同樣的挫折感。

以下對話經過刪減與編輯以求簡明。

WIRED：尼克，在 AI 末日論者（doomer）到推手（booster）的光譜中，你處於什麼位置？

尼克·克萊格： 我在某種程度上忽視這兩種炒作。說 AI 到下週二就會摧毀我們所知的生命，這種炒作程度與說它是自人類發明火以來發生的最強大的事物是一樣的。我對兩邊的炒作都非常反感。這通常是由那些有東西要賣，或者想要誇大自己發明力量的人所散布的。

人們談論這項技術的方式之所以會有如此劇烈的波動，是因為它既非常多才多藝，又非常愚蠢。它在某些事情上（如寫程式）異常強大，但在許多其他事情上卻異常無用。我認為這就是為什麼我們很難去討論它。

我認為這與某些 AI 互動中那種「恐怖谷」般的怪異特質有關。

我們人類總是這樣。我們稱之為「人工」，然後花很多時間將其擬人化。這是我們折射經驗以使其易於理解的方式。但這是一個根本性的錯誤。

是什麼吸引你進入教育領域？你預計 AI 將如何重塑教學實踐？

我完全相信，沉浸式的線上教學能給學生帶來相當大的益處。

我們都知道每個孩子都有不同的能力，在不同的科目中學習速度不同，對不同老師的反應也不同。個性化教育的夢想一直讓教育工作者難以企及——這是有充分理由的。作為一名老師，很難關注到每一位學生。我認為 AI 提供的「秘密配方」在於它真正實現了適應性、互動性的個性化。

為什麼特別選擇 Efekta？

它的重點在於拉丁美洲和東南亞等非常龐大且服務不足的市場。在這些地區，教師長期短缺。

我認為它的產品具有深刻的民主化效應。理論上，一個坐在巴西農村省份小鎮的孩子，應該能夠與 Efekta 的 AI 老師進行與住在倫敦梅費爾（Mayfair）的人同樣靈敏的互動。

將 AI 引入課堂會失去什麼嗎？我們最終會不會得到一代將聊天機器人當作拐杖的學生——用來起草論文、解決問題等等？

無論如何他們都會這麼做的。試圖將 AI 拒於學校門外是毫無意義的。重點在於你如何將 AI 融入教育。糟糕的老師會用得很糟，而優秀的老師會用得很好——就像他們對待白板和計算機一樣。

但我們談論的是更根本的改變。我想問的是，如果學生不培養基礎技能，這可能意味著什麼。

如果你回到計算機剛被發明的時候，[人們認為] 孩子們將永遠無法進行心算。但事實並非如此。這當然會有影響。但我認為就教育表現而言，淨效應應該是積極的。

兒童對於與聊天機器人相關的危險可能特別脆弱。你如何看待這些風險？

當然存在危險——特別是脆弱的成年人和兒童在情感上依賴並投入於與某個擁有化身、類人存在的事物的關係中。

在社會層面，我們應該採取非常預防性的措施。我認為對於如何向年輕人提供具備代理能力（agentic）的 AI，應該有明確的年齡限制。

就像澳洲對 16 歲以下青少年實施的社交媒體禁令那樣？

如果你無法測量人們的年齡，禁令就沒有意義。這就是決策者急於搶佔關於禁令的頭條新聞，卻沒有仔細思考那些相當困難的部分。除非你想讓所有這些平台持有每個人的護照資料？長期以來我的觀點是，做到這一點的唯一方法是通過 iOS 和 Android 的關口，在 [應用程式商店] 層級進行。

但原則上，我認為應該採取類似的預防措施。對於一個善良、耐心、24 小時都在聽你說話的聲音，人們很容易產生高度的情感投入，甚至可能受到過度影響，這是一個非常真實的風險。

不過，我不認為 Efekta 生產的那類產品存在這種風險。

即使 AI 實際上承擔了老師的角色？

不——因為它並非如此。像 Efekta 這樣的公司生產的這些代理型 AI，不會在半夜與學生建立某種秘密關係，對他們說各種可怕的話。這是一個由老師控制的體驗。

你在 Meta 待了將近七年。在那段時間裡，AI 成為了前沿技術。我很好奇你在 Meta 的經驗如何影響了你對 AI 的機遇、風險和極限，以及對超級人工智慧追求的看法。

如果你問同一個組織的三個人什麼是超級人工智慧，你會得到三個不同的答案。我的印象是，矽谷的每個人都必須說他們與通用人工智慧（AGI）或超級人工智慧近在咫尺，因為那是吸引頂尖數據科學家的方法。我發現很難應對像這樣模糊不清的概念。

我主要想到的是「權力悖論」。你擁有這些賦予我們個人力量的技術，但也極大地增加了美國西海岸和中國科技領域極少數人手中的權力。

大科技公司向來如此，因為社交媒體具有網絡效應。但由於大型語言模型（LLM）的物理特性——建設基礎設施的成本高得令人難以置信——這種權力的分化只會變得越來越極端。如果這種 LLM 範式持續下去，玩家將會越來越少。某個時刻會出現大洗牌，因為你不可能每年僅在 AI 基礎設施上就持續花費 1300 億英鎊。

我們目前所處的賽道感覺就像是一方面是個人賦能，另一方面是極度擴張的聚合權力，兩者之間極不平衡。這給我們所有人帶來了巨大的難題。

你曾試圖通過 Facebook 監督委員會（Oversight Board）來解決 Meta 的權力集中問題。你認為它在治理公司、約束其最壞衝動方面有效嗎？

我認為他們做得很好。

最明顯的例子是什麼？

他們做出了一些具有約束力的內容裁決，公司必須執行。我很清楚這一點，因為以前為我工作的團隊會對此苦不堪言。我認為一家公司自願束縛自己的手腳是非常酷的事情。

它是某些評論家想要的、能完全剪掉馬克·祖克柏羽翼的「最高法院」嗎？可能不是。但它從來就不是為了那個目的而設計的。它的設計初衷是作為內容審核與言論自由之間邊緣決策的最終訴求管道。

讓我感到失望的是，當我協助建立它時，我曾希望到這個階段會有其他平台加入進來。

你希望其他平台能複製這個模式？

是的——它還沒有成為一個藍圖。

部分原因是自馬斯克收購 Twitter 後，美國對內容審核的態度發生了巨大的轉變。此外，MAGA 群體有一種相當幼稚的傾向，將任何內容審核都稱為審查行為，這是對事實的荒謬扭曲。他們為了自己的目的而神格化「審查」這個詞。

這可能讓很多其他玩家望而卻步。

自你離開後，祖克柏在內容審核上的立場似乎發生了相當大的變化。Meta 已將獨立事實查核員換成了群眾外包審核。

在某些方面確實如此。但理論上，如果你能讓群眾外包處理錯誤訊息的方法在大規模範圍內運作，這並沒有什麼錯。

我不認為任何人應該將獨立事實查核員的想法浪漫化。他們只能處理表面上極少量的內容。在美國，無論你喜歡與否，接近一半的人口認為事實查核員在意識形態上對他們存有偏見。如果一個政黨或另一個政黨認為你創造的體系與他們的世界觀截然相反，那你就遇到麻煩了。

你認為這種變化反映了川普政府下的氣候嗎？

美國的氣候已經完全改變了。顯然，矽谷和華盛頓的人們發現內容審核是一個非常方便用來打擊「討厭的布魯塞爾官僚」的棍子。可能還有很多其他原因 [這樣做]——特別是《人工智慧法案》（AI Act），那是一個荒謬的自殘行為。但每個民主司法管轄區都有權決定內容審核與言論自由之間的界限。

圍繞這件事的自私政治修辭多得令人驚訝。如果你與美國部分地區的人交談，他們認為美國是唯一理解言論自由美德的國家。他們賦予第一修正案神聖的地位，彷彿歐洲古老的民主國家完全不知道如何取得正確的平衡。

這已經變成了一件高度政治化的事情。你看到就職典禮上那一排科技大佬，以及在海湖莊園（Mar-a-Lago）無止盡的效忠儀式。顯然，他們已經決定——我想是為了保護他們的業務——與現任美國政府結盟。矽谷徹底改變立場並深陷政治，這是一個巨大的轉變，只有時間能證明這對他們是否有意義。

我對美國那些聲稱「只有歐洲人才進行粗暴監管」的言論自由倡導者持極度懷疑態度。除了你能想像到的對一家公司最粗暴的監管攻擊之外，你如何稱呼他們對 Anthropic 所做的事情？即使是最崇尚指導主義、愛干預的布魯塞爾官僚也不會做得那麼過分。

你真的認為歐盟對 AI 的做法等同於自殘？

這幾乎是一個教科書級別的「如何不進行監管」的典型案例。

最初的草案是在 ChatGPT 出現前兩三年發布的。他們根本不知道自己想把這項立法應用在什麼技術上。一個參與開發底層基礎模型的人，怎麼能被要求對隨後任何下游和定制化的使用負責？這顯然行不通。

這完全背叛了一整群想要建立世界領先公司的、非常非常聰明的歐洲企業家。這讓我感到憤怒，因為同樣的人會誇誇其談地宣稱要維護歐洲主權，並確保我們不都依賴美國和中國的技術。這是保證我們主權的最糟糕方式。

如果不通過嚴格監管，你建議我們如何應對不受限制的 AI 發展風險？

我已成為開源技術的熱心倡導者，因為這是確保這些技術得到適當民主化的最佳方式，這樣你就不會讓極少數專有模型擁有壟斷權力來主導局面。

諷刺中的諷刺是，中國——這個世界上最大的專制國家——正通過開源在促進這些工具的民主化訪問方面做得最多。至於是出於意外還是設計，取決於你問的是誰。