Reface 與 Prisma 共同創辦人聯手打造 Mirai，致力優化裝置端 AI 模型推論
Mirai 籌集了 1000 萬美元的種子輪資金，用於改進 AI 模型在智慧型手機和筆記型電腦等裝置上的運行方式。
主題
最新消息
人工智慧 (AI)
亞馬遜 (Amazon)
應用程式 (Apps)
生物技術與健康
氣候
雲端運算
商業
加密貨幣
企業
電動車 (EVs)
金融科技
募資
小工具 (Gadgets)
遊戲
政府與政策
硬體
裁員
媒體與娛樂
Meta
微軟 (Microsoft)
隱私
機器人
安全
社群
太空
新創公司
TikTok
交通
風險投資
更多來自 TechCrunch
團隊成員
活動
Startup Battlefield
StrictlyVC
電子報
播客 (Podcasts)
影片
合作夥伴內容
TechCrunch Brand Studio
Crunchboard
聯繫我們
Reface 與 Prisma 聯合創辦人攜手合作，透過 Mirai 提升裝置端模型推理效能
當今關於 AI 的討論大多集中在建立雲端容量和運行模型的大型數據中心。Apple 和 Qualcomm 等公司正處於讓裝置端 AI 變得更有用的早期階段。在這種背景下，總部位於倫敦、擁有 14 人技術團隊的 Mirai 正致力於改進模型在手機和筆記型電腦上的運行方式。
Mirai 由 Dima Shvets 和 Alexey Moiseenkov 於去年創立，並獲得了由 Uncork Capital 領投的 1,000 萬美元種子輪融資。兩位創辦人在打造可擴展的消費級應用程式方面都有豐富經驗。Shvets 曾共同創立了由 a16z 支持的換臉應用 Reface，後來他也成為該風險投資公司的球探（scout）。Moiseenkov 則是上個十年風靡一時的 AI 濾鏡應用 Prisma 的執行長兼聯合創辦人。
Shvets 表示，作為消費端開發者，早在生成式 AI 流行之前，他們兩人就一直在思考裝置上的 AI 和機器學習。
「當我們在倫敦見面時，我們開始聊起技術，並意識到在生成式 AI 的熱潮和更多 AI 應用的趨勢下，每個人都在談論雲端、伺服器和 AGI 的到來。但缺失的一環是針對消費級硬體的裝置端 [AI]，」他告訴 TechCrunch。
Shvets 和 Moiseenkov 希望利用 AI 建立一個流程，讓他們能夠在手機上執行複雜任務，這促使他們創立了 Mirai。當他們詢問其他開發消費級應用的開發者時，聽到的反饋是許多人也希望在每個 Token 的使用成本和利潤率上得到更好的優化。
如今，Mirai 正在為模型開發一個框架，使其在裝置上表現更好。該公司為 Apple Silicon 打造了一個推理引擎，可優化裝置端的吞吐量。該公司表示，透過即將推出的 SDK，開發者只需幾行程式碼即可在應用程式中整合該運行環境。
「我們創立這家公司的願景之一，是希望給予開發者像 Stripe 那樣只需八行程式碼 [整合] 的體驗……你基本上只需進入我們的平台，整合金鑰，就可以開始處理摘要、分類或任何你的使用場景，」Shvets 說。
這家新創公司使用 Rust 語言開發了這個引擎，他們聲稱這可以將模型的生成速度提升高達 37%。該公司表示，在為特定平台調整模型時，他們不會更動模型權重，以確保輸出品質不會受損。
Mirai 的技術棧目前專注於提升平台上的文字和語音模態，並計劃在未來支援視覺模態。團隊已開始與領先的模型供應商合作，針對邊緣端使用調整其模型，並正與不同的晶片製造商進行洽談。隨後，他們也計劃將該引擎引入 Android 系統。
此外，Mirai 旨在發布裝置端基準測試（benchmarks），以便模型製作者測試裝置端的效能。不過，Shvets 也承認並非所有的 AI 工作都能在裝置上完成。為了實現混合運作模式，團隊正在構建一個編排層（orchestration layer），將無法在裝置上完成的請求發送到雲端。
雖然這家新創公司目前尚未直接與應用程式合作，但據了解，其引擎可以為裝置端助手、轉錄工具、翻譯工具和聊天應用提供動力。
Uncork Capital 的管理合夥人 Andy McLoughlin 指出，他在上個十年曾投資過一家邊緣機器學習公司。他說那家公司當時太過超前，最終將業務賣給了 Spotify。他認為在當今世界，情況已經不同了。
「考慮到雲端推理的成本，情況必須有所改變……目前，創投公司仍樂於繼續資助那些在雲端推理上花費巨額資金的火箭級公司。但這不會持久——在某個時點，人們會開始關注這些業務的底層經濟效益，並意識到必須做出改變，」他說。「感覺每個模型製作者都會希望將部分推理工作負載運行在邊緣端，而 Mirai 看起來在捕捉這一需求方面處於非常有利的位置。」
Mirai 的種子輪融資還有多位個人投資者參與，包括 Dreamer 執行長 David Singleton、YC 合夥人 Francois Chaubard、Snowflake 聯合創辦人 Marcin Żukowski、ElevenLabs 聯合創辦人 Mati Staniszewski、前 Google AdSense 產品經理及 Coinbase 董事會成員 Gokul Rajaram、Groq 投資人 Scooter Braun、Turing.com 技術長 Vijay Krishnan、Theory Forge Ventures 的 Ben Parr 和 Matt Schlicht，以及前 Netflix 技術負責人 Aditya Jami。
相關文章