Niv-AI 結束隱身狀態，致力於壓榨出 GPU 更高的電力效能

電力是人工智慧的關鍵原料，但新的處理技術超出了數據中心營運商管理其與電網關係的能力，迫使他們不得不將效能調降（throttle down）高達 30%。

「在這些 AI 工廠中浪費了大量的電力，」Nvidia 執行長黃仁勳在該公司年度 GTC 客戶大會的主題演講中表示。該公司在年度簡報中宣稱：「每一瓦未被使用的電力都是收入的損失。」

今天，新創公司 Niv-AI 以 1,200 萬美元的種子輪融資正式亮相，旨在透過新型感測器精確測量 GPU 功耗，並開發更高效的管理工具來解決這一問題。

這家總部位於特拉維夫的新創公司由執行長 Tomer Timor 和技術長 Edward Kizis 於去年創立，並獲得 Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward 和 Aurora Capital Partners 的支持。該公司拒絕透露其估值。

隨著前沿實驗室協同運行數千個 GPU 來訓練和執行先進模型，當處理器在計算任務與和其他 GPU 通訊之間切換時，經常會出現毫秒級的電力需求激增。

這些激增使得數據中心難以管理其從電網獲取的電力。為了避免電力不足，數據中心要麼支付臨時儲能費用以應對激增，要麼限制其 GPU 的使用率。這兩種情況都會降低對昂貴晶片投資的回報。

「我們不能再以現在的方式繼續建設數據中心了，」Grove Ventures 合夥人、Niv 董事會成員 Lior Handlesman 表示。

Niv 路線圖的第一步是了解現狀；該公司目前正在其擁有的 GPU 以及與設計合作夥伴合作的 GPU 上部署機架級感測器，以檢測毫秒級的電力使用情況。其目標是了解不同深度學習任務的特定電力特性，並開發緩解技術，讓數據中心能夠釋放更多現有容量。

自然地，工程師們期望根據收集到的數據建立一個 AI 模型，目標是訓練它預測和同步整個數據中心的電力負載——成為數據中心工程師的「副駕駛」（copilot）。

Niv 預計在未來六到八個月內，在少數幾家美國數據中心建立運行系統。這是一個極具吸引力的想法，因為試圖建設新數據中心的超大規模業者（hyperscalers）正面臨困難的土地使用和供應鏈問題。創始人將他們的最終產品視為數據中心與電網之間缺失的「智能層」。

「電網實際上擔心數據中心在特定時間消耗過多電力，」Timor 告訴 TechCrunch。「我們正在研究的問題涉及繩子的兩端。一方面是試圖幫助數據中心利用更多 GPU，並希望能從他們已經支付的電力中獲得更多收益。另一方面，你也可以在數據中心和電網之間建立更負責任的電力特性。」