NVIDIA 與電信領導者打造 AI Grid，優化分散式網路上的推論效率

隨著 AI 原生應用程式擴展到更多用戶、代理程式和設備，電信網路正成為分佈式 AI 的下一個前沿陣地。

在 NVIDIA GTC 2026 上，美國和亞洲的領先營運商展示了這一轉變正在進行中，並宣布推出 AI 網格 (AI grids) —— 即地理分佈且互連的 AI 基礎設施 (AI infrastructure) —— 利用其網路足跡，在分佈式邊緣端為新的 AI 服務提供動力並實現獲利。

不同的營運商正採取不同的路徑。許多營運商首先將現有的有線邊緣站點轉化為 AI 網格，以便立即獲利。其他營運商則利用 AI-RAN —— 一種能將 AI 完全整合到無線存取網路中的技術 —— 作為同一網格上的工作負載和邊緣推論平台。

電信商和分佈式雲端供應商運行著世界上最龐大的基礎設施：全球約有 100,000 個分佈式網路數據中心，涵蓋區域中心、行動交換中心和電信機房，並擁有足夠的備用電力，隨著時間推移可提供超過 100 GW 的新 AI 容量。

AI 網格將這些現有的房地產、電力和連接轉化為地理分佈的運算平台，在更靠近用戶、設備和數據的地方運行 AI 推論，使響應速度和單位 Token 成本達到最佳平衡。這不僅僅是基礎設施的升級，更是 AI 交付方式的結構性變革，將電信網路置於擴展 AI 的核心地位，而不僅僅是承載其流量。

全球營運商將分佈式網路轉化為 AI 網格

在六家主要營運商的推動下，AI 網格正從概念走向現實。

AT&T 是聯網物聯網 (IoT) 的領導者，在數千種設備類型中擁有超過 1 億個連接。該公司正與思科 (Cisco) 和 NVIDIA 合作，為物聯網構建 AI 網格。透過在專用的物聯網核心運行 AI，並將 AI 推論移至更靠近數據產生的位置，AT&T 可以利用 Linker Vision 支援公共安全等關鍵任務的即時應用，實現更快的偵測、警報和響應，同時幫助客戶在網路邊緣掌控敏感資訊。

AT&T Business 產品高級副總裁 Shawn Hakl 表示：「為企業和開發者擴展既高度安全又易於存取的 AI 服務，是我們物聯網連接策略的核心支柱。透過結合 AT&T 的企業級連接、在地化 AI 運算和零信任安全，並與 NVIDIA Inception 計畫成員合作，利用思科的 AI 網格、NVIDIA 基礎設施和思科行動服務平台，我們正將即時 AI 推論帶到更靠近數據產生的位置，從而加速數位轉型並開啟新的商業機會。」

Comcast 正在將全美最大的低延遲寬頻足跡之一開發成 AI 網格，以提供即時、超個人化的體驗。Comcast 與 NVIDIA、Decart、Personal AI 和 HPE 合作，驗證了其 AI 網格即使在需求高峰期間，也能保持對話式代理、互動式媒體和 NVIDIA GeForce NOW 雲端遊戲的響應速度和經濟性，並具有顯著提高的吞吐量和更低的單位 Token 成本。

Spectrum 擁有的網路基礎設施足以支援一個涵蓋 1,000 多個邊緣數據中心的 AI 網格，其數百兆瓦的容量距離 5 億台設備僅不到 10 毫秒。初步部署重點在於利用嵌入在 Spectrum 光纖驅動、低延遲網路中的遠端 GPU，為媒體製作渲染高解析度圖形。

Akamai 正在構建全球分佈的 AI 網格，將 Akamai 推論雲 (Akamai Inference Cloud) 擴展到 4,400 多個邊緣位置，並配備數千個 NVIDIA RTX PRO 6000 Blackwell 伺服器版 GPU。Akamai 的 AI 網格編排平台能將每個請求匹配到合適的運算層級，在改善推論的 Token 經濟效益的同時，為遊戲、媒體、金融服務和零售等應用提供低延遲、即時的 AI 體驗。

Indosat Ooredoo Hutchison 正在將其主權 AI 工廠與遍布印尼的分佈式邊緣和 AI-RAN 站點連接起來，以構建用於在地創新的 AI 網格。透過在印尼境內的此網格上運行 Sahabat-AI（一個基於印尼語的平台），Indosat 可以為分佈在數千個島嶼上的數億印尼人提供在地化的 AI 服務，為當地開發者和新創公司提供一個快速、具備文化相關性且符合法規的主權平台來構建 AI 應用。

T-Mobile 正在與 NVIDIA 合作，利用 NVIDIA RTX PRO 6000 Blackwell 伺服器版 GPU 探索邊緣 AI 應用，展示分佈式網路位置如何支援新興的 AI-RAN 和邊緣推論案例。包括 LinkerVision、Levatas、Vaidio、Archetype AI 和 Serve Robotics 在內的開發者已經在該網格上試點智慧城市、工業和零售應用，將攝影機、送貨機器人和城市規模的代理程式連接到網路邊緣的即時智慧。這證明了基地台和行動交換中心如何在繼續提供先進 5G 連接的同時，支援分佈式邊緣 AI 工作負載。

新的 AI 原生服務讓電信 AI 網格投入運作

AI 網格正成為新一類 AI 原生應用程式的基礎 —— 這些應用具有即時性、超個人化、高並發和 Token 密集型的特點。

Personal AI 正在使用 NVIDIA Riva 在 AI 網格上驅動人類等級的對話式代理。透過在更靠近用戶的地方運行小語言模型，它實現了低於 500 毫秒的端到端延遲，並降低了 50% 以上的單位 Token 成本，使語音體驗感覺自然，同時在規模化運作下仍具備經濟可行性。

Linker Vision 正在透過在 AI 網格上運行即時視覺 AI 來改變城市運作。透過處理分佈在邊緣站點的數千個攝影機饋送，它為現場偵測和即時警報提供了可預測的延遲 —— 使城市更安全、更智慧，交通事故偵測速度提高達 10 倍，災難響應速度提高 15 倍，並能針對不安全的人群行為發出亞分鐘級警報。

Decart 正在透過將即時影片生成引入 AI 網格，重新定義超個人化的分佈式媒體。透過在網路邊緣運行其 Lucy 模型，它實現了低於 12 毫秒的網路延遲，支援能即時適應每位觀眾的互動式影片串流和疊加層，即使在收視高峰期也能提供流暢、沉浸式的現場影片體驗。

AI 網格參考設計與生態系統

NVIDIA AI 網格參考設計 (AI Grid Reference Design) 定義了在分佈式站點部署和編排 AI 的構建模組，包括 NVIDIA 加速運算、網路和軟體平台。

一個日益壯大的全棧合作夥伴生態系統，包括思科 (Cisco) 以及 HPE 等基礎設施合作夥伴，正基於 NVIDIA RTX PRO 6000 Blackwell 伺服器版構建的系統，將 AI 網格解決方案推向市場。Armada、Rafay 和 Spectro Cloud 等合作夥伴則在構建 AI 網格控制平面，以無縫編排分佈式 AI 基礎設施上的工作負載。

思科供應商行動業務高級副總裁兼總經理 Masum Mir 表示：「實體 AI 正在加速從集中式智慧向網路邊緣的分佈式決策轉變。我們與 NVIDIA 的合作匯集了完整堆疊 —— 從 NVIDIA GPU 到思科的網路和行動能力 —— 使營運商能夠為關鍵任務應用提供動力，提供即時推論，並參與 AI 價值鏈。」

這個生態系統正共同幫助電信商和分佈式雲端供應商重新定義其在 AI 價值鏈中的角色 —— 將網路邊緣轉化為一個統一的智慧層，用於運行、擴展 AI 工作負載並從中獲利。

了解更多關於 AI 網格 (AI Grid) 的資訊。