我們的第八代 TPU：為代理時代打造的兩款晶片

背景

Google 在 Google Cloud Next 大會上正式發表第八代自研 AI 晶片 TPU 8t 與 TPU 8i，標誌著其硬體開發進入「代理人時代」。這兩款晶片分別針對大規模模型訓練與高效率推理進行專門優化，旨在應對 AI 代理人所需的高頻率推理與複雜邏輯運算，預計於今年晚些時候正式商用。

社群觀點

在 Hacker News 的討論中，技術社群對於 Google 展現出的垂直整合能力感到驚嘆。許多評論者指出，Google 憑藉著從底層晶片設計、液冷散熱系統、光學電路交換技術到上層軟體架構的全面掌控，已在 AI 基礎設施領域建立起極高的競爭門檻。特別是 TPU 8t 超級集群（Superpod）展現出的擴展性，單一集群可容納近萬顆晶片並提供驚人的算力，被視為 Google 在與 NVIDIA 競爭中的核心優勢。部分觀點認為，雖然外界目光常被 OpenAI 或 Anthropic 吸引，但 Google 就像一股緩慢上漲的潮水，憑藉著強大的基礎設施與 Android、瀏覽器等通路壟斷地位，正在默默收割市場份額。

然而，社群對於 Google 的軟體執行力與市場策略仍抱持懷疑態度。有留言批評 Google 的管理層缺乏啟發性，若非 ChatGPT 的出現，Google 可能還會繼續將這些頂尖技術束之高閣。此外，雖然硬體規格強悍，但 Google Cloud 的易用性與開發者偏好仍是挑戰。有觀點提到，許多科學家更傾向於在本地端或更具彈性的環境中運行硬體，而非被鎖定在 Google 的雲端生態系中。針對 TPU 8i 專攻推理、TPU 8t 專攻訓練的「雙晶片策略」，社群也展開了討論。雖然這種專業化分工能顯著提升能源效率，但相較於 NVIDIA 較為通用的硬體架構，這種做法是否會降低運算資源的調度彈性，仍是開發者關注的重點。

此外，金融領域的應用也引發了好奇。針對 Citadel Securities 等對沖基金採用 TPU 的消息，社群成員推測這類機構正利用強大的算力來訓練內部私有的交易模型，以在毫秒必爭的市場中尋找微小的交易訊號。儘管市場上存在 AI 泡沫化的疑慮，但多數討論者認為，從 Anthropic 或微軟頻頻傳出算力短缺、暫停訂閱的情況來看，市場對於高效能運算資源的需求依然遠超供給，這也證明了 Google 持續投入自研晶片的戰略正確性。

延伸閱讀

• Google Cloud 官方部落格關於 TPU 8t 與 8i 架構的詳細技術說明：https://cloud.google.com/blog/products/compute/tpu-8t-and-tpu-8i-smart-efficient-ai-infrastructure