Anthropic 限制 Mythos 發佈是為了保護網路，還是為了保護自己？

Anthropic 本週表示，其限制了代號為「Mythos」的新模型的發佈，原因是該模型發現全球用戶所依賴的軟體安全漏洞的能力過於強大。

這家頂尖實驗室並未向大眾開放 Mythos，而是將其分享給一群營運關鍵網路基礎設施的大型公司和組織，包括亞馬遜網路服務（AWS）到摩根大通（JPMorgan Chase）。據報導，OpenAI 也在為其下一個網路安全工具考慮類似的計畫。表面上的理由是讓這些大型企業能領先於可能利用先進大型語言模型（LLM）滲透安全軟體的惡意行為者。

但上述句子中的「表面上」一詞暗示，這種發佈策略背後可能不單純是為了網路安全，或僅是為了炒作模型能力。

AI 網路安全實驗室 Irregular 的執行長 Dan Lahav 在 Mythos 發佈前的三月曾告訴 TechCrunch，雖然 AI 工具發現漏洞很重要，但任何弱點對攻擊者的具體價值取決於許多因素，包括它們如何被組合使用。

Lahav 表示：「我腦中一直有的疑問是，他們是否發現了某種可以產生實質影響的漏洞，無論是單獨使用還是作為攻擊鏈的一部分？」

Anthropic 表示，Mythos 利用漏洞的能力遠超其之前的模型 Opus。但目前尚不清楚 Mythos 是否真的是網路安全模型的終極方案。AI 網路安全新創公司 Aisle 表示，他們能夠使用較小的開源權重模型，複製出大部分 Anthropic 聲稱 Mythos 所達成的成果。Aisle 的團隊認為，這些結果顯示網路安全領域並不存在單一的深度學習模型，而是取決於手頭上的任務。

鑑於 Opus 已被視為網路安全的遊戲規則改變者，頂尖實驗室可能想要限制向大型組織發佈模型的另一個原因是：這為大型企業合約創造了飛輪效應，同時讓競爭對手更難透過「蒸餾」（distillation）技術來複製其模型。蒸餾是一種利用頂尖模型來廉價訓練新 LLM 的技術。

新創公司 exe.dev 的軟體工程師兼執行長 David Crawshaw 在社群媒體貼文中指出：「這是為了一個事實所做的行銷掩護：頂尖模型現在受到企業協議的限制，小型實驗室已無法再對其進行蒸餾。」Crawshaw 表示：「等到你我能使用 Mythos 時，又會出現一個僅限企業使用的全新頂尖版本。這種跑步機式的競爭有助於維持企業資金的流入（這佔了資金的大部分），並將從事蒸餾的公司降至二流地位。」

這種分析與我們在 AI 生態系統中看到的現狀相吻合：一邊是開發最大、最強大模型的頂尖實驗室之間的競賽；另一邊是像 Aisle 這樣依賴多個模型，並將開源 LLM（通常來自中國，且據稱常透過蒸餾開發）視為獲得經濟優勢路徑的公司。

今年，頂尖實驗室對蒸餾採取了更強硬的立場。Anthropic 公開揭露了其所謂的中國公司試圖複製其模型的行為；根據彭博社報導，三家領先的實驗室——Anthropic、Google 和 OpenAI——正聯手識別並封鎖蒸餾者。蒸餾對頂尖實驗室的商業模式構成了威脅，因為它消除了利用巨額資本進行規模擴張所帶來的優勢。因此，封鎖蒸餾本身就是一項值得的努力，而這種選擇性發佈的方法也讓實驗室在該類別成為獲利部署關鍵之際，能夠使其企業產品更具差異化。

Mythos 或任何新模型是否真的威脅到網路安全仍有待觀察，而謹慎地推出這項技術是一種負責任的做法。

截至發稿時，Anthropic 並未回應我們關於該決定是否也與蒸餾擔憂有關的問題，但該公司可能已經找到了一種聰明的方法來保護網路——以及它的利潤。