矽谷兩大爭議事件交織：LiteLLM 與 Delve 的安全風暴

這是一個彷彿從 HBO 諷刺劇中走出來的矽谷現實情節。本週，在由 Y Combinator 畢業生開發的開源專案 LiteLLM 中，發現了一些極其惡劣的惡意軟體。

LiteLLM 讓開發者能輕鬆存取數百種 AI 模型，並提供支出管理等功能。根據監測此事件的多家安全研究機構之一 Snyk 的數據，這是一個爆紅的專案，每日下載量高達 340 萬次。該專案在 GitHub 上擁有 4 萬顆星和數千次分叉（fork，即以其為基礎進行修改並據為己有的使用者）。

該惡意軟體是由提供網頁研究 AI 代理的公司 FutureSearch 的研究科學家 Callum McMahon 發現、記錄並披露的。惡意軟體透過「依賴項」（即 LiteLLM 所依賴的其他開源軟體）潛入。隨後，它竊取了所觸及之處的所有登入憑證。利用這些憑證，惡意軟體進一步獲得了更多開源套件和帳戶的存取權限，以蒐集更多憑證，以此類推。

McMahon 在下載 LiteLLM 後，惡意軟體導致他的電腦關機。這一事件促使他進行調查並發現了它。諷刺的是，惡意軟體中的一個錯誤導致了他的電腦當機。由於那段惡毒代碼的設計極其草率，他（以及著名的 AI 研究員 Andrej Karpathy）斷定這一定是「憑感覺編寫」（vibe coded）的。

LiteLLM 的開發者本週一直在馬不停蹄地糾正這種情況，好消息是它被發現得相對較快，可能在幾小時內就被察覺了。

這段傳奇故事還有另一個讓 X 上的網友議論紛紛的部分。截至我們 3 月 25 日查看時，LiteLLM 的網站上仍自豪地展示其已通過兩項主要的安全性合規認證：SOC2 和 ISO 27001。

但它是使用一家名為 Delve 的新創公司來獲得這些認證的。

Delve 是一家由 Y-Combinator 支持、利用 AI 驅動的合規新創公司，該公司被指控涉嫌生成虛假數據，並使用橡皮圖章式的審計機構來誤導客戶對其真實合規性的認知。Delve 已否認了這些指控。

這裡有一個值得理解的細微差別。此類認證旨在表明公司擁有強大的安全政策，以限制發生此類事件的可能性。認證並不能自動防止像 LiteLLM 這樣的公司遭受惡意軟體攻擊。雖然 SOC 2 應該涵蓋圍繞軟體依賴項的政策，但惡意軟體仍可能潛入。

即便如此，正如工程師 Gergely Orosz 在 X 上看到人們對此冷嘲熱諷時所指出的：「噢天哪，我還以為這是一個笑話。……但不是，LiteLLM 真的是由 Delve『保障安全』的。」

至於 LiteLLM，執行長 Krrish Dholakia 對於使用 Delve 一事不予置評。他目前仍忙於清理作為攻擊受害者所留下的不幸爛攤子。

他告訴 TechCrunch：「我們目前的優先事項是與 Mandiant 共同進行的主動調查。我們致力於在鑑識審查完成後，與開發者社群分享所學到的技術教訓。」