Darkbloom:在閒置的 Apple Silicon 設備上進行私密 AI 推論
我們推出 Darkbloom,這是一個去中心化的推論網絡,將閒置的 Apple Silicon 機器直接連接到需求端,提供端到端加密且經硬體驗證的私密推論,成本比中心化方案低 70%。
背景
Darkbloom 是一個去中心化的 AI 推論網路,旨在利用全球超過一億台在閒置時間被浪費的 Apple Silicon Mac 算力。透過端到端加密與硬體驗證技術,該平台宣稱能提供比中心化 API 供應商低 70% 的成本,同時讓硬體持有者保留高達 95% 的收益,並確保運算過程中的數據隱私。
社群觀點
Hacker News 的討論首先聚焦於 Darkbloom 選擇 Apple Silicon 作為切入點的策略。支持者認為 Apple Silicon 的統一記憶體架構與強大的 GPU 效能,使其成為分散式運算的理想節點,甚至有評論認為蘋果在 AI 競賽中早已憑藉硬體佈局站在終點線。然而,對於「隱私」的技術實現,社群內出現了激烈的辯論。部分開發者質疑 Mac 並不像伺服器等級的 CPU 具備如 SGX 或 SEV 類型的可驗證機密執行環境,目前的方案更多是依賴 macOS 核心層級的加固與系統完整性保護(SIP)來防止數據洩漏。雖然開發團隊引用研究論文說明其利用硬體綁定金鑰與加固運行環境來達成保護,但資安專家提醒,任何硬體金鑰在足夠的利益誘惑下都有被破解的風險,且對於商業敏感數據,使用者仍應保持謹慎。
在經濟效益方面,社群呈現兩極化的看法。有使用者透過初步計算發現,即便考慮到電費成本,閒置的 Mac 確實能產生一定的被動收入,甚至被戲稱為賺取「午餐錢」的好方法。但質疑聲浪也不小,主要集中在硬體損耗與實際收益的落差。批評者指出,高負載的推論任務會加速硬體老化,且若如官方宣稱能在短時間內回本並產生高額利潤,那麼大公司大可直接購買數千台 Mac Mini 組建機房,而非依賴分散式網路。此外,電力成本在不同地區差異巨大,加上冷卻成本與網路頻寬的變數,讓這套經濟模型是否能長期維持受到挑戰。
最後,關於去中心化網路的治理與安全性也引發了討論。有留言擔心在個人硬體上執行來自陌生人的圖像生成請求可能帶來的法律風險。儘管如此,許多人仍對這種結合加密貨幣支付與實際算力價值的應用感到興奮,認為這比起純粹的投機性代幣更具實質意義。對於那些希望在辦公室內部建立私有算力池的用戶來說,這種去中心化的推論模式提供了一個極具吸引力的想像空間,甚至被比喻為現實版的《矽谷群英傳》中 Pied Piper 的技術體現。
延伸閱讀
在討論串中,有使用者推薦了 exo (https://github.com/exo-explore/exo),這是一個能將多台設備組合成一個整體來運行 AI 模型的開源工具,適合想要在本地環境建立算力池的使用者參考。此外,Darkbloom 的技術細節與安全模型可參閱其發布的研究論文 (https://github.com/Layr-Labs/d-inference/blob/master/papers/...)。