我們的原則

2026 年 4 月 26 日

我們的原則

作者：Sam Altman

AI 有潛力顯著改善社會的許多面向。

這項技術與之前的其他技術一樣，將賦予人們更多的能力與自主權；人們利用 AI 所能成就的事業，將使蒸汽機或電力時代的成就顯得微不足道。

我們願景中的世界是一個普遍繁榮、達到目前難以想像之水平的世界，也是一個個人潛力、自主權和成就感顯著提升的世界。許多我們過去只敢在科幻小說中夢想的事情可能成為現實，大多數人可以過上比現今更具意義的生活。

但這種結果並非必然。未來的權力可能掌握在少數幾家使用並控制超智能的公司手中，也可能由人民以去中心化的方式掌握。我們相信後者要好得多，而我們的目標是將真正的通用 AI 交付到盡可能多的人手中。與現在一樣，未來不會全是壞事或全是好事，但我們現在做出的決定可以幫助最大化好的結果。

我們的使命是確保通用人工智慧（AGI）造福全人類。以下是指導我們工作的原則。

1. 民主化。我們將抵制這項技術將權力集中在少數人手中的可能性。

這意味著除了讓每個人都能接觸到 AI 之外，我們還需要確保關於 AI 的關鍵決策是透過民主程序和平等原則做出的，而不僅僅是由 AI 實驗室決定。

2. 賦能。我們相信 AI 可以賦予每個人實現目標、學習更多、變得更快樂、更充實並追求夢想的能力，且整個社會都將從中受益。

實現這一點需要讓人們探索擺在我們面前的巨大潛力，我們需要開發能夠實現這一點的產品。用戶應該能夠可靠地利用我們的服務完成價值日益增長的任務。

世界是多元的，人們有不同的需求。我們希望給予用戶所需的自主權，並在合理的範圍內盡可能地放寬限制。

雖然我們希望在用戶使用我們服務的方式上給予非常廣泛的自由，並堅信 AI 總體上將大有裨益，但我們有責任以盡量減少傷害的方式來構建和部署它。這當然包括防止災難性的傷害，但也包括盡量減少局部傷害並避免潛在的社會腐蝕效應。這意味著在面對不確定性時，我們會寧可過於謹慎，並隨著證據的增加而放寬限制。

3. 普遍繁榮。我們希望每個人都能擁有卓越生活的未來。

透過將易於使用且具備強大算力的 AI 系統交到每個人手中，我們相信人們會找到創造價值的新方法，並大幅提升每個人的生活品質，特別是在新科學的發現方面。

為了讓繁榮得以充分實現並廣泛共享，我們認為：1) 我們的政府可能需要考慮新的經濟模式，以確保每個人都能參與到眼前的價值創造中；2) 我們需要建設大量的 AI 基礎設施並開發新技術，以大幅降低 AI 基礎設施的成本。

我們所做的許多看起來很奇怪的事情——在收入相對較小時購買大量算力、進行垂直整合以降低成本並使我們的技術更易於使用、推動在全球各地建設數據中心等等——都是源於我們對普遍繁榮未來的根本信念。

4. 韌性。AI 將帶來新的風險，我們將與其他公司、生態系統、政府和社會共同解決這些問題。我們將動用基金會的大量資源來支持這項工作。

沒有任何一家 AI 實驗室能獨自確保美好的未來。舉一個明顯的例子，未來可能會出現極其強大的模型，使製造新病原體變得更容易，我們需要全社會共同採取與病原體無關的對策來防禦。另一個例子是，隨著模型的網絡安全能力增強，我們需要迅速利用這些模型來幫助保護開源軟體和關鍵基礎設施，同時訓練模型以幫助每個人創建更安全的軟體。

這是我們長期堅持的迭代部署策略的擴展；我們相信社會需要應對每一階段不斷進步的 AI 能力，去理解它、整合它，並共同找出最佳的前進道路。這不能在真空環境下完成；社會與技術是共同演進的，這需要時間。

我們並非將此視為唯一的安全策略；我們還需要製造安全的系統，並繼續在技術對齊（technical alignment）方面做出卓越的工作。

我們預計在某些時期，我們需要與政府、國際機構和其他 AGI 研發計畫合作，以確保在進一步開展工作之前，我們已經充分解決了嚴重的對齊、安全或社會問題。

5. 適應性。我們始終相信，應對極其不可預測的未來挑戰的唯一方法，就是準備好隨著我們了解更多而更新我們的立場。我們也承認，OpenAI 在世界上的影響力比幾年前大得多，我們將對運作原則何時、如何以及為何改變保持透明。舉一個具體的例子，雖然我們非常有信心普遍繁榮將保持其重要性，但我們可以想像未來某些時期，我們可能不得不犧牲一些賦能來換取更多的韌性。

AI 的發展帶來了許多驚喜，未來還會有更多。隨著技術的進步，其湧現行為（emergent behaviors）將變得越來越難以預測。我們透過謹慎提升能力、迭代部署系統並從它們與世界的互動中學習，來擁抱這種不確定性。

不久前，我們還對發布 GPT-2 的權重感到緊張，因為我們不確定會對社會產生什麼影響。顯然回想起來，那是多慮了，但這引導我們發現了迭代部署的策略，這一直是我們摸索出的最重要的事情之一。

__

隨著技術的不斷進步，我們正進入一個極具影響力的階段。對我們的每一項決定進行批評是非常公平的；鑑於我們所做工作的份量，我們理應受到大量的監督。我們不會把每件事都做對，但我們會迅速學習並修正方向。

我們致力於盡自己的一份力量，讓未來比過去更好；我們感到很幸運能承擔如此重要的工作。

作者

延伸閱讀

產品 | 2026 年 4 月 21 日

公司 | 2026 年 4 月 21 日

公司 | 2026 年 4 月 8 日