OpenAI 非營利時代的終結

關鍵監管機構已同意讓該公司取消其利潤上限並重組為營利性實體——但附帶了一些條件

本文全文最初發表於 Obsolete，這是我撰寫的一個關於資本主義、地緣政治和人工智慧交集的 Substack 專欄。我是一名自由撰稿記者，也是即將出版的新書《Obsolete: Power, Profit, and the Race to Build Machine Superintelligence》的作者。歡迎訂閱以獲取我的最新作品。

今天早上，德拉瓦州和加州檢察總長有條件地批准了 OpenAI 重組為營利性公益公司（PBC）的計劃，這似乎為一場圍繞該公司未來的激烈法律鬥爭畫上了句號。

微軟作為 OpenAI 最早的投資者，也是另一個有權阻止重組的相關方，今天也表示將批准該計劃，以換取合作條款的變更以及在新公益公司中持有價值 1,350 億美元的股份。

隨著這些利益相關者被安撫，OpenAI 現在已經清除了潛在 IPO 的最大障礙——除了其預計到 2029 年將消耗 1,150 億美元現金的問題。

雖然這項消息最初看起來像是對眾多重組反對者的全面擊敗，但檢察總長公告的細節顯示，新計劃包含了一些適度但有意義的治理保護措施——即便它取消了原本可能最終為非營利組織帶來數兆美元的利潤上限。

其中一些保護措施現已載入 OpenAI 新公益公司的章程中，Obsolete 獲取了該章程並在此提供查閱。

總體而言，與之前的提案相比，這在治理方面似乎是一個相對的勝利，但在利潤上限方面仍然是一個巨大的損失——僅僅透過如果公司表現極佳，非營利組織將獲得的一些額外股權而略微緩解。

OpenAI 沒有立即回應置評請求。

治理方面的勝利

董事會主席 Bret Taylor 將重組呈現為一個已定案的事件，他寫道：「OpenAI 已完成資本重組，簡化了其公司結構。非營利組織仍保持對營利性實體的控制，現在在通用人工智慧（AGI）到來之前擁有了獲取重大資源的直接路徑。」執行長 Sam Altman 則向「德拉瓦州和加州檢察總長、我們的合作夥伴微軟、所有投資者，特別是我們不知疲倦的團隊表示感謝，感謝他們為達成這個良好結果所做的工作。」

實際上，這些公告更應被理解為 OpenAI 與有權阻止重組的各方之間，經歷了數月高風險且激烈談判的結果。

例如，檢察總長們在上個月針對 ChatGPT 鼓勵自殺和謀殺妄想的報導後，向董事會發出了一封措辭嚴厲的信函：

最近發生的死亡事件是不可接受的。它們理所當然地動搖了美國公眾對 OpenAI 和這個行業的信心。OpenAI 以及 AI 行業必須主動且透明地確保 AI 的安全部署。這是 OpenAI 慈善使命的要求，也將由我們各自的辦公室要求並強制執行。

昨天，OpenAI 宣布對 ChatGPT 進行更改，旨在使其在面對處於心理健康危機的用戶時表現得更得體。

這些措施——連同私人談判——似乎說服了檢察總長們不對重組提出異議，前提是 OpenAI 必須滿足他們長達二十段的要求清單，包括：

• 非營利組織將擁有任命和罷免公益公司董事的唯一權力。
• 公益公司董事會「在安全和保障問題上，必須僅考慮使命（且不得考慮股東的經濟利益或任何其他利益）」。這包括 OpenAI 安全與保障委員會（SSC）的所有行動和決定，該委員會將由 Zico Kolter 領導，他將不會在新公益公司的董事會任職。
• 安全與保障委員會將有權出於安全考量要求採取緩解措施，最高可包括停止發布新模型。
• 非營利組織將有權從公益公司獲取某些資訊以支持其使命，包括獲取其 AI 模型、人員和先進研究。
• 非營利組織董事會成員必須每半年與檢察總長辦公室溝通一次，公益公司的高級成員必須每季度與檢察總長辦公室溝通一次，匯報其在實現 OpenAI 使命方面的進展。
• 非營利組織在任何限制其治理權利的交易完成前，必須提前 21 天通知檢察總長辦公室，以便檢察總長審查。

檢察總長的聲明明確表示，他們對重組的不反對明確取決於這些條件的達成，且如果發生爭議，他們保留尋求法院干預的權利。

曾幫助組織「非為私利」（Not for Private Gain）信函敦促檢察總長阻止重組的前 OpenAI 員工 Page Hedley 強調了兩個「一線希望」：公益公司董事在做出安全和保障決策時可以僅考慮使命，而由非營利組織運行的安全與保障委員會將有權要求採取緩解措施，甚至停止部署。

Hedley 指出，賦予非營利董事會的另一個大權力——聘請和解僱公益公司董事的能力——因目前兩邊董事會成員幾乎完全相同而大打折扣，除了卡內基梅隆大學教授 Zico Kolter，他僅在非營利方任職並領導安全與保障委員會。

另一位前 OpenAI 員工 Todor Markov 稱這個結果比他預期的要好，並指出董事會重疊的問題因非營利董事對 OpenAI 使命負有的受託責任而有所緩解——這給了檢察總長一個持續的執法槓桿。

如果你主要的擔憂是 OpenAI 魯莽地推進冒險的 AI 開發，那麼新結構至少建立了一些正式的治理制衡。

但這些措施仍弱於非營利組織以前的控制水平，當時——至少在理論上——決策不受任何利潤壓力影響。（OpenAI 在名義上受非營利組織控制期間發生的一系列重大醜聞顯示了僅依靠公司治理的局限性。）

加州檢察總長的條件之一是公益公司董事會必須「由多數獨立董事組成」，定義為非員工，且「經公益公司董事會認定，與公司無任何可能損害其判斷的關係或利益——以確保強大、客觀的監督，強化問責制和使命一致性。」

在結構頁面中，OpenAI 列出了以下非營利組織的獨立董事：

Bret Taylor（主席）、Adam D’Angelo、Sue Desmond-Hellmann 博士、Zico Kolter 博士、退役美國陸軍上將 Paul M. Nakasone、Adebayo Ogunlesi、Nicole Seligman 和 Larry Summers——以及執行長 Sam Altman。

作為員工，Altman 根據加州檢察總長的定義不符合獨立董事的資格。此外，由監察非營利組織「米達斯計畫」（The Midas Project）和「技術監督計畫」（Tech Oversight Project）發起的「OpenAI 檔案」項目已記錄了 OpenAI 與 Taylor、Ogunlesi 及 D’Angelo 之間潛在的利益衝突，他們各自經營的業務「是 OpenAI 的客戶，或將從 OpenAI 的商業活動中受益」。（Fidji Simo 在被任命為 OpenAI 應用執行長之前，也在推動重組期間於非營利董事會任職。）

這剩下了 Desmond-Hellmann、Kolter、Nakasone、Seligman 和 Summers。而我們記得，Kolter 僅在非營利董事會中。

因此，八名董事會成員中有四名顯然不符合獨立資格，但公益公司已認定他們符合——而檢察總長們顯然尊重這一認定，只要該董事既不是員工也不是管理層成員。

利潤上限不復存在

重組涉及的第二件大事是利潤上限。當 OpenAI 在 2019 年成立營利性分支時，它著名的做法是限制投資者可以獲得的利潤，公司總裁 Greg Brockman 當時寫道：「如果我們成功了，我們相信我們創造的價值將比任何現有公司高出幾個數量級——在這種情況下，除了極小一部分外，其餘所有價值都將回饋給世界。」

這個計劃，就像之前的提案一樣，取消了上限，補償給非營利組織營利性公益公司 26% 的股份，並承諾如果 OpenAI 的價值在未來 15 年內增長超過十倍，將額外提供數額不明的股權。《The Information》報導稱，如果公司估值達到 5 兆美元，「基金會可能會獲得價值數千億美元的股份」，引用的是「一位參與重組討論的人士」。（從未有過價值 5 兆美元的公司，儘管輝達的市值已經非常接近。）

這比單純移除利潤上限有所進步，但是——在 OpenAI 真正大獲全勝的情境下——對非營利組織（及公眾）而言，其價值仍遠低於保留利潤上限的情況。

這正是著名理性主義部落客 Zvi Mowshowitz 為何將此次重組稱為人類歷史上最大竊案的核心原因。在他看來，單是控制營利性實體的價值（即控制權溢價）就應使非營利組織獲得公益公司 20-40% 的股份——這還是在考慮取消舊上限後無限利潤的價值之前。

在 5 月宣布移除利潤上限時，Altman 寫道：

與其採用目前複雜的利潤上限結構——這在看起來可能只有一個主導 AGI 努力時是有意義的，但在一個擁有多家優秀 AGI 公司的世界裡則不然——我們正在轉向正常的資本結構，每個人都持有股票。這不是出售，而是將結構更改為更簡單的形式。

但正如 Obsolete 先前觀察到的，這些上限只有在 OpenAI 表現非常、非常出色時才會產生限制。那麼為什麼要力爭取消它們呢？花費政治資本做這件事的唯一原因，是投資者現在看到了 OpenAI 真正觸及那些上限的真實機會——這在現在看來比 2019 年時要合理得多。

維吉尼亞大學經濟學家 Anton Korinek 使用標準經濟模型估計，AGI 在全球範圍內的價值可能在 1.25 到 71 千兆（quadrillion）美元之間。如果你採用 Korinek 關於 OpenAI 市佔率的假設，那將使該公司的價值達到 30.9 兆美元。在這種情況下，微軟將帶著不到 1% 的總額離開，絕大部分價值將流向非營利組織。

人們很容易將這些數字視為幻想。但這種幻想在很大程度上是由 OpenAI 自己構建的，它曾寫下諸如「在後 AGI 世界中，可能很難知道金錢將扮演什麼角色」之類的語句，或者當 Altman 說如果 OpenAI 成功構建 AGI，它可能會「捕獲宇宙中所有未來價值的觀察光錐」。他說，那「肯定不應該由一組投資者擁有」。

OpenAI 將新的基金會呈現為「有史以來資源最豐富的非營利組織之一」。但米達斯計畫有不同看法，寫道：

從公眾的角度來看，OpenAI 可能是歷史上財務表現最差的非營利組織之一，因為它自願將比以往任何慈善組織都多的公眾應得價值轉移給了私人利益。

檢驗我的預測

5 月，我在 Obsolete 中對 OpenAI 的重組進程做出了四項預測。以下是它們的結果：

• 利潤上限將消失，取而代之的是「正常的資本結構，每個人都持有股票」——而該股票賦予你獲得未來無限利潤的權利。
  正確 —— 如上所述。

• OpenAI 將不必向投資者償還 266 億美元，因為他們已同意以取消利潤上限為條件進行這項變更。
  正確 —— 軟銀剛剛批准了其剩餘的 225 億美元 OpenAI 投資。

• 非營利組織將因取消上限而從營利性實體獲得數百億美元的補償。
  錯誤 —— 非營利組織獲得了 1,300 億美元，超出了我的預期，但這僅僅是因為 OpenAI 的估值飆升。

• 非營利組織將主要使用這筆錢為非營利組織和政府購買 OpenAI 的服務，目標是那些能讓公司日子不好過的群體（如加州的非營利組織）。
  待定 —— OpenAI 確實於 9 月宣布了一個 5,000 萬美元的非營利基金，這似乎更符合這一點。新的 OpenAI 基金會正以 250 億美元的承諾啟動，重點關注健康和 AI 韌性。這一點我們拭目以待。

這是一個政治問題，而非法律問題

我一年來廣泛報導了這個故事，而在我與法律專家的對話中反覆出現的主題是：現行法律規定，除非能證明這樣做會促進其「確保 AGI 造福人類」的使命，否則不應允許 OpenAI 這樣做。

但是，我一直在想，這最終難道不是一個政治問題嗎？檢察總長是關鍵的潛在阻礙者，而兩位都是民選官員。OpenAI 已成為世界上最強大的組織之一，在過去一年中達成了高達 1.5 兆美元的交易，並擁有一支與加州政界有著深厚聯繫的遊說者大軍。

今天下午，Altman 發布推文稱：

加州是我的家，我熱愛這裡。兩週前當我與 Bonta 檢察總長交談時，我明確表示我們不會像其他公司那樣，威脅說如果被起訴就離開。

這項承諾與 OpenAI 高管在幕後向《華爾街日報》透露的消息相矛盾：如果重組未能如願，該公司可能會撤出加州，而重組被描述為這家渴望資金的新創公司的生死存亡之戰。

5 月，Obsolete 率先報導了 OpenAI 寫給加州檢察總長的一封信，信中該公司表示「OpenAI 最近幾輪融資中的許多潛在投資者因其非營利治理結構而拒絕投資」。

如果這家公司倒閉，有充分的理由認為美國股市會崩盤，經濟也可能隨之崩潰。但目前還遠不清楚 OpenAI 是否在不進行重組的情況下就無法繼續籌集資金和增長。儘管如此，這就是公司推進的敘事，並輔以對數百億美元投資的激進截止日期。

並非所有人都買帳。重組的批評者、芝加哥大學布斯商學院教授 Luigi Zingales 先前辯稱：

目前將回報限制在投資資本 100 倍的結構，實際上並未限制其籌資能力。那麼，將控制權轉移給營利性實體的必要性何在？是為了推翻 AI 應造福人類的授權。

OpenAI 還利用局勢的複雜性為自己謀取了巨大的利益。最終「讓非營利組織保持控制」的計劃，在很大程度上默認了 OpenAI 最初試圖完全邊緣化非營利組織時所想要的東西。

但媒體和公眾將其框定為重組反對者的巨大勝利。甚至 OpenAI 的員工也告訴我，他們很高興非營利組織將保持控制——儘管實際上改變微乎其微。

再次強調，法律規定只有在證明重組比現狀更能促進 OpenAI 的非營利使命時，才應被允許。先前在 Obsolete 中，我描繪了至少一種可能滿足此條件的結果：

儘管 OpenAI 聲稱其在 AI 行業擁有領導地位，但它只是一家公司。如果它為了安全而放慢腳步，其他人可能會超越它。因此，如果 OpenAI 非營利組織被拆分為一個真正獨立的實體，擁有 1,500 億美元資金，並以遊說建立具有約束力的國內和國際先進 AI 系統安全保障為使命，或許能更好地推進其使命。

如果這聽起來很遙遠，那麼發起這次轉型的非營利董事會正真正代表公眾利益的想法也同樣遙遠。

最終，除了 OpenAI 及其投資者如願以償之外，很難看到其他結果。伊隆·馬斯克試圖阻止重組的訴訟是最後一個真正的未知數，審判預計於明年進行。但到目前為止，投資者似乎並未感到擔憂到要扣留資金的地步。

值得注意的是，法官明確表示，如果馬斯克具備訴訟主體資格，阻止重組將在她的職權範圍之內。檢察總長們擁有這項權力——但他們選擇不使用它。

如果你喜歡這篇文章，請訂閱 Obsolete。