Delve 曾為遭惡意軟體攻擊的 AI 專案 LiteLLM 進行安全合規認證

這就像是矽谷現實生活中的一幕，情節彷彿出自 HBO 的諷刺劇。本週，在由 Y Combinator 畢業生開發的開源專案 LiteLLM 中，發現了一些極其惡劣的惡意軟體。

LiteLLM 讓開發者能輕鬆存取數百種 AI 模型，並提供支出管理等功能。根據監測此事件的多家安全研究機構之一 Snyk 的數據，該專案是一個爆紅產品，每日下載量高達 340 萬次。該專案在 GitHub 上擁有 4 萬顆星和數千個分支（那些將其作為基礎進行修改並收為己用的人）。

該惡意軟體是由 FutureSearch（一家提供網頁研究 AI 代理的公司）的研究科學家 Callum McMahon 發現、記錄並披露的。惡意軟體透過「依賴項」（即 LiteLLM 所依賴的其他開源軟體）滲入，隨後竊取了它所接觸到的一切登入憑據。憑藉這些憑據，惡意軟體進一步獲取了更多開源套件和帳戶的存取權，以收集更多憑據，以此類推。

McMahon 在下載 LiteLLM 後，惡意軟體導致他的電腦關機。這一事件促使他進行調查並發現了它。諷刺的是，惡意軟體中的一個錯誤導致了他的電腦崩潰。由於這段惡毒代碼的設計極其草率，他（以及著名的 AI 研究員 Andrej Karpathy）斷定這一定是「氛圍編碼」（vibe coded）出來的。

LiteLLM 的開發者本週一直在馬不停蹄地工作以補救局面，好消息是它被發現得相對較快，可能在幾小時內就察覺了。

這段傳奇故事還有另一個讓 X 上的網友議論紛紛的部分。截至我們 3 月 25 日查看時，LiteLLM 的網站上仍自豪地展示其已通過兩項主要的安全合規認證：SOC2 和 ISO 27001。

但它是使用一家名為 Delve 的初創公司來獲得這些認證的。

Delve 是一家由 Y-Combinator 支持、利用 AI 驅動的合規初創公司，它被指控涉嫌通過生成虛假數據並使用「橡皮圖章」式的審計員來誤導客戶，使其誤以為符合真實的合規標準。Delve 已否認這些指控。

這裡有一個值得理解的細微差別。此類認證旨在表明公司已建立強大的安全政策，以限制發生此類事件的可能性。認證並不能自動防止像 LiteLLM 這樣的公司遭受惡意軟體攻擊。雖然 SOC 2 應該涵蓋圍繞軟體依賴項的政策，但惡意軟體仍可能滲入。

即便如此，正如工程師 Gergely Orosz 在 X 上看到人們對此冷嘲熱諷時所指出的：「噢天哪，我還以為這是一個笑話。……但不是，LiteLLM 真的 是由 Delve 提供安全保障（Secured by Delve）。」

至於 LiteLLM，執行長 Krrish Dholakia 對於使用 Delve 一事未予置評。他目前仍忙於清理作為攻擊受害者所留下的不幸爛攤子。

「我們目前的優先事項是與 Mandiant 進行積極調查。一旦我們的鑑識審查完成，我們致力於與開發者社群分享所學到的技術教訓，」他告訴 TechCrunch。