Multiverse Computing 將其壓縮 AI 模型推向主流市場

隨著私營公司違約率高達 9.2%（創下多年來新高），風險投資公司 Lux Capital 最近建議依賴 AI 的公司應以書面形式確認其算力承諾。Lux 警告，隨著財務不穩定波及 AI 供應鏈，僅靠口頭協議是不夠的。

但還有另一個完全不同的選擇，那就是徹底停止依賴外部算力基礎設施。直接在用戶自身設備上運行的較小型 AI 模型——無需數據中心、無需雲端供應商、無交易對手風險——正變得越來越出色，值得考慮。而 Multiverse Computing 正準備大展身手。

這家西班牙新創公司至今比一些同行更為低調，但隨著對 AI 效率的需求增長，情況正在發生變化。在壓縮了包括 OpenAI、Meta、DeepSeek 和 Mistral AI 在內的主要 AI 實驗室的模型後，該公司推出了一款展示其壓縮模型能力的應用程式，以及一個 API 門戶（讓開發者可以訪問並基於這些模型進行開發的入口），使這些模型能更廣泛地被使用。

CompactifAI 應用程式與 Multiverse 受量子啟發的壓縮技術同名，是一款類似 ChatGPT 或 Mistral 的 Le Chat 的 AI 聊天工具。輸入問題，模型就會回答。不同之處在於，Multiverse 嵌入了 Gilda，據該公司稱，這是一個非常微小的模型，可以在本地離線運行。

對於終端用戶來說，這是一種邊緣 AI 的體驗，數據不會離開他們的設備，也不需要網路連接。但有一個前提：他們的行動設備必須有足夠的 RAM 和儲存空間。如果沒有（許多舊款 iPhone 就沒有），該應用程式會透過 API 切換回雲端模型。本地與雲端處理之間的路由由 Multiverse 命名為 Ash Nazg 的系統自動處理，這個名字對托爾金（Tolkien）的粉絲來說應該很耳熟，因為它引用了《魔戒》中至尊魔戒上的銘文。不過，當應用程式路由到雲端時，它也會隨之失去主要的隱私優勢。

這些限制意味著 CompactifAI 尚未完全準備好供大眾客戶採用，儘管這可能從來不是其目標。根據 Sensor Tower 的數據，該應用程式在過去一個月的下載量不到 5,000 次。

真正的目標是企業。今天，Multiverse 推出了自助式 API 門戶，讓開發者和企業可以直接訪問其壓縮模型——無需透過 AWS Marketplace。

執行長 Enrique Lizaso 在一份聲明中表示：「CompactifAI API 門戶 [現在] 讓開發者能直接訪問壓縮模型，並提供在生產環境中運行所需的透明度和控制力。」

即時使用監控是該 API 的關鍵功能之一，這並非偶然。除了在邊緣部署的潛在優勢外，較低的算力成本是企業考慮將小型模型作為大型語言模型（LLM）替代方案的主要原因之一。

此外，小型模型的限制也比以前少了。本週早些時候，Mistral 推出了 Mistral Small 4，更新了其小型模型系列，據稱該模型同時針對一般聊天、編碼、代理任務和推理進行了優化。這家法國公司還發布了 Forge，這是一個讓企業構建自定義模型的系統，包括可以根據其使用場景選擇最能容忍的權衡方案的小型模型。

Multiverse 最近的結果也表明，與 LLM 的差距正在縮小。其最新的壓縮模型 HyperNova 60B 2602 是基於 gpt-oss-120b 構建的——這是一個底層代碼公開可用的 OpenAI 模型。該公司聲稱，它現在能以比原始模型更低的成本提供更快的響應，這一優勢對於代理編碼工作流尤為重要，在這種工作流中，AI 會自主完成複雜的多步驟編程任務。

讓模型小到能在行動設備上運行，同時保持實用性，是一個巨大的挑戰。Apple Intelligence 透過結合設備端模型和雲端模型規避了這個問題。Multiverse 的 CompactifAI 應用程式也可以透過 API 將請求路由到 gpt-oss-120b，但其主要目標是展示像 Gilda 及其未來的替代品這樣的本地模型具有超越成本節約的優勢。

對於關鍵領域的工作者來說，一個可以在本地運行且無需連接雲端的模型提供了更高的隱私性和韌性。但更大的價值在於這能解鎖的商業應用場景——例如，將 AI 嵌入無人機、衛星和其他無法保證網路連接的環境中。

該公司已經為包括加拿大銀行、博世（Bosch）和伊比德羅拉（Iberdrola）在內的 100 多家全球客戶提供服務，但擴大客戶群可能有助於其獲得更多資金。在去年完成 2.15 億美元的 B 輪融資後，目前傳聞其正在進行一輪 5 億歐元的新融資，估值超過 15 億歐元。