圍繞 Mythos 的政策標誌著一場不可逆轉的權力轉移

這篇文章假設 Anthropic 沒有說謊：

• Mythos 是目前的 SOTA（當前最強模型）
• Mythos 威力強大^([1])
• Anthropic 不會向公眾提供未經閹割（un-nerfed）的版本^([2])
• Anthropic 將讓少數選定的公司參與 Project Glasswing^([3])，利用該模型來提升網路安全或其他領域

自 ChatGPT 發布以來，在任何給定時間，地球上任何只要花點小錢的人，都能接觸到當時最強大的 AI 模型，即 SOTA。^([4])

自 Mythos 出現後，情況不再如此，而且我認為這種情況永遠不會再發生了。

如果某個政策與 Anthropic 顯著不同的實體開發出 SOTA 模型，這種情況可能會短暫出現。^([5]) 然而，大多數嚴肅的競爭對手（OpenAI、Google）的政策與 Anthropic 並無太大差異，因此我無法想像近期會有比 Mythos 更強大的 SOTA 模型無限制地向公眾發布。

需要澄清的是，我並非聲稱公眾永遠無法獲得像 Mythos 一樣強大的模型，這幾乎肯定是錯誤的；我聲稱的是，公眾可能永遠無法接觸到「當時」的 SOTA。

Glasswing 計畫明確顯示，頂尖大公司（那些掌權者）的態度是：具備一定能力水平的 AI 模型需要受到嚴格的使用控制。

所以我們回不去了，但這意味著什麼？

隨著模型持續進步，AI 公司能訓練出的模型能力，與公眾能使用的模型能力之間的差距將會擴大。

因此，掌握這類模型的鑰匙，相對於任何未掌握鑰匙的人來說，代表著顯著的權力優勢。Project Glasswing 聲稱是嚴格的防禦性行動，即公司為了公共利益加強網路安全。現實情況是，即使你認為網路安全是一場正和博弈，戰爭卻不是；在衝突中擁有良好的網路安全，相對於對手而言就是一種顯著的優勢。

這讓我深感憂慮。我預料到這最終會發生，但這本質上是權力向掌握 AI 鑰匙的人傾斜、並遠離未掌握者的一種可衡量^([6])的體現。雖然我不能 100% 肯定這一直是 AI 公司的價值主張，但他們籌集數萬億資金是為了「民主化 AI」並幫助每個人的說法，對我來說一直很可疑。

此外，正如我所說，這似乎是不可逆轉的。我不一定認為將 Anthropic 和未來所有的 SOTA 完全向公眾開放是個好主意，因為它們確實可以被用於惡意目的。^([7]) 然而，這種不可逆轉的權力轉移所帶來的後果讓我極度不安。

民主制度從根本上依賴於人類天生具有力量^([8])，因此，權力不可逆轉地向中心化的 AI 傾斜並遠離大眾，理所當然地令我擔憂。

總結來說，我們似乎正在告別每個人都能接觸 SOTA 模型的時代，進入一個 SOTA 模型訪問權受到嚴格守衛的時代。由此我們可以推測，我們正進入一個 AI 公司實現其潛台詞價值主張的階段：即開發遠超人類的智能，並利用它們產生相對於普通大眾而言、令人咋舌且有利可圖的權力差距。這應該引起極大的關注。

• ^(^)Anthropic 聲稱 Mythos 能夠可靠地發現許多軟體中可利用的安全漏洞，因此可以作為一種強大的工具。

• ^(^)他們似乎打算發布一個能力顯著降低的版本，儘管他們確實打算將目前的未閹割模型用於 Project Glasswing。

• ^(^)Project Glasswing 是 Anthropic 將其 Mythos 模型借給一群公司以加強網路安全。

• ^(^)並非每個人都能在模型訓練完成後立即獲得訪問權，但直到現在，每個 SOTA 基本上都是以向公眾銷售為目的而訓練的。

• ^(^)根據各種消息來源，OpenAI 的模型（Spud）可能與 Mythos 旗鼓相當，並可能向大眾發布。然而，如果它遵循「守衛未閹割版本、向公眾發布閹割版本」的模式，它仍然符合這一趨勢。

• ^(^)Google/Amazon（Anthropic 的主要投資者）股價上漲了約 5%，網路安全公司的股價則下跌。

• ^(^)我個人不會採取任何立場。SOTA 發展到對任何人（包括惡意行為者）都具有實質危險性的地步似乎是不可避免的，所以這與 Mythos 是否為遊戲規則改變者無關。然而，如果情況確實如此，這肯定也意味著，對於那些可能未明確與人類福祉保持一致的公司或其他追求價值的實體來說，獲得這些模型同樣具有重大影響（危險）。

• ^(^)Zack_M_Davis 的表述我很喜歡，所以放在這裡：「……當我們思考後人類世界中主權的真正所在地時，民主並不是一個真正的選項。無論是 OverClaude 還是神聖皇帝 Dario 一世，只要他們想為人類服務，都可以舉行選舉，但那將是一種『選擇』。在一個人類沒有軍事價值的世界裡，大眾意志只有在『單一體』（Singleton）在意時才重要，這與過去選舉作為誰能贏得內戰的功能性代理指標截然不同。」

參與討論