人工智慧必須既被信任且值得信賴

在 2016 年，我曾寫過關於一個以直接、物理方式影響世界的網際網路。它與你的智慧型手機相連；它擁有如攝影機和恆溫器般的感測器；它擁有執行器：恆溫器、無人機、自動駕駛汽車；它中間還有大腦，利用感測器數據來判斷該做什麼，然後實際執行。這就是物聯網（Internet of Things）。

機器人的經典定義是具備感測、思考與行動能力的物體——這正是當今的網際網路。我們一直在不知不覺中建造一個世界規模的機器人。

在 2023 年，我們利用如 GPT 等大型語言模型（LLM）升級了「思考」的部分。ChatGPT 以其理解人類語言並生成可信、切題且類人回應的能力，讓世界感到既驚訝又讚嘆。但這些模型真正擅長的是與先前為人類設計的系統進行互動。它們的準確性將會提高，並將被用來取代真實的人類。

在 2024 年，我們將開始把這些 LLM 和其他 AI 系統連接到感測器和執行器上。換句話說，它們將透過 API 與更廣闊的世界相連。它們將以我在 2016 年所構想的所有形式，接收來自我們環境的直接輸入。而且它們將越來越多地透過物聯網設備及其他方式來控制我們的環境。

這將從微小之處開始：摘要電子郵件並撰寫有限的回應；在聊天視窗中與客服爭論服務變更和退款；預訂旅遊行程。

但這些 AI 也將與物理世界互動，首先是控制機器人，接著讓這些機器人成為它們的一部分。你的 AI 驅動恆溫器將根據誰在房間、他們的偏好以及他們接下來可能去哪裡，來開啟暖氣或空調。它將透過安排高耗能家電的使用或汽車充電時間，與電力公司協商最便宜的費率。

這些都是簡單的部分。真正的變革將發生在這些 AI 聚合成一個更大的智慧體時：一個龐大的發電與耗電網絡，每棟建築都只是一個節點，就像蟻群或人類軍隊一樣。

未來的工業控制系統將包括傳統的工廠機器人，以及安排其運作的 AI 系統。它將自動訂購耗材，並協調最終產品的運輸。AI 將管理自己的財務，與銀行界的其他系統互動。它將根據需要召喚人類：修理個別子系統，或執行對機器人來說過於專業的任務。

以無人駕駛汽車為例。個別車輛當然擁有感測器，但它們也利用嵌入在道路和電線桿上的感測器。真正的處理是在雲端由一個引導所有車輛的中央系統完成的。這使得個別汽車能夠協調它們的運動以提高效率：例如同步煞車。

這些是機器人，但不是電影和電視中熟悉的那種。我們通常認為機器人是離散的金屬物體，表面有感測器和執行器，內部有處理邏輯。但我們的新機器人不同。它們的感測器和執行器分布在環境中。它們的處理過程在別處。它們是一個由個別單元組成的網絡，只有在聚合時才成為機器人。

這徹底顛覆了我們的安全觀念。如果大規模、去中心化的 AI 運行著一切，那麼誰控制這些 AI 就變得至關重要。這就像是一個行業中所有的行政助理或律師都為同一家機構工作一樣。一個既被信任且值得信賴的 AI 將成為關鍵需求。

這個未來要求我們減少將自己視為個體，而更多地視為大型系統的一部分。這是作為自然、作為蓋亞（Gaia）的 AI——萬物皆為一個系統。這是一個與佛教「萬物互聯」哲學比西方「個人主義」觀念更契合的未來。（同時也與科幻小說中的反烏托邦相似，如《魔鬼終結者》電影中的天網。）這將需要重新思考我們對治理和經濟的大部分假設。這不會很快發生，但在 2024 年，我們將看到邁向這條道路的第一步。