Anthropic 研究院概述其研究議程，重點關注人工智慧對經濟、安全與社會的影響，並利用實驗室內部的數據來引導公共政策與組織決策。
在 Anthropic 研究院（The Anthropic Institute, TAI），我們將利用從前沿實驗室內部獲得的資訊，調查 AI 對世界的影響，並與公眾分享我們的發現。在此，我們分享驅動我們研究議程的核心問題。
我們的議程專注於四個研究領域：
在《AI 安全的核心觀點》中，我們提到進行有效的安全研究需要與前沿 AI 系統保持密切接觸。同樣的邏輯也適用於對 AI 在安全、經濟和社會影響方面進行的有效研究。
在 Anthropic，我們已經看到軟體工程等工作正在發生劇變的早期證據。我們觀察到 Anthropic 內部的經濟模式開始轉變、我們構建的系統中出現了新威脅，以及 AI 開始加速 AI 自身研發的早期跡象。為了實現 AI 進步的全部益處，我們希望盡可能分享這些資訊。我們正在研究這些動態可能如何塑造外部世界，以及公眾如何幫助引導這些變化。
在 TAI，我們將從前沿實驗室內部的立場研究 AI 的現實影響，然後發布這些發現，以幫助外部組織、政府和公眾在 AI 發展方面做出更好的決策。
我們將分享研究成果、數據和工具，使個人研究人員和機構更容易投入這些研究課題。具體而言，我們將分享：
TAI 將影響 Anthropic 的決策。這可能表現為公司分享原本不會公開的數據（如經濟指數），或以不同的方式發布技術（如為 Project Glasswing 等計畫提供支持的網路威脅分析）。
我們預期 Anthropic 研究院開發的工作將日益成為 Anthropic 長期利益信託（Long-Term Benefit Trust, LTBT）的重要輸入。LTBT 的使命是確保 Anthropic 持續優化其行動，以實現人類的長期利益。我們與 LTBT 以及 Anthropic 各部門的員工共同制定了這份研究議程。
這是一份動態議程，而非固定不變。隨著證據的累積，我們將繼續微調這些問題，並預期會出現目前尚未涵蓋的新問題。我們歡迎對此議程的反饋，並將根據對話中學到的內容進行修訂。
如果您有興趣幫助我們回答其中一些問題，歡迎申請成為 Anthropic 研究員（Anthropic Fellow）。該研究員計畫為期四個月並提供資助，旨在 TAI 團隊成員的指導下解決一個或多個此類問題。您可以在此了解更多資訊並申請下一屆計畫。
最後更新日期：2026 年 5 月 7 日
了解日益強大的 AI 系統部署如何改變經濟至關重要。我們還需要開發必要的經濟數據和預測能力，以便選擇以造福公眾的方式部署 AI。
為了回答這一研究支柱中的問題，我們將進一步開發 Anthropic 經濟指數（The Anthropic Economic Index）中的數據。我們還將探索其他方法，以完善我們關於強大 AI 如何影響社會的模型，無論是驅動失業、前所未有的經濟增長，還是其他影響。
AI 的採用與擴散
生產力與經濟增長
廣泛的勞動力市場影響
工作與職場的未來
AI 系統往往會同時提升多種能力，包括雙重用途能力。一個在生物學方面變得更強的 AI 系統，在製造生物武器方面也會變得更強。在電腦編程方面表現優異的 AI 系統，在入侵電腦方面也會變得更強。如果我們能更好地理解 AI 系統加劇威脅的潛力，社會就能更容易地對這種變化的威脅格局產生韌性。
我們提出這些問題是為了幫助建立合作夥伴關係，以提高世界在面對變革性 AI 時的韌性，並為可能出現的新威脅開發預警系統。其中許多問題將驅動我們前沿紅隊（Frontier Red Team）的研究議程。
評估風險與雙重用途能力：
建立風險緩解措施：
用於監視的情報能力
個人和組織與 AI 系統的互動將是社會變革的主要來源。了解 AI 系統可能改變與其互動的人員和機構的方式，是我們社會影響團隊的核心關注領域。為了研究這些變化，我們正在改進現有工具並構建新工具來開展研究，範圍從提高平台可觀察性的軟體到進行大規模定性調查的工具。
AI 對個人和社會的影響：
識別 AI 帶來的重大影響：
理解與治理 AI 模型：
隨著 AI 系統變得更加強大，科學家正利用它們來執行更多的研究。這意味著更多的科學研究正在自主或半自主地進行，人類的主動監督越來越少。在 AI 研究本身中，日益強大的系統可能會被用來幫助開發其後續版本。我們有時稱之為「AI 驅動的 AI 研發」。
AI 驅動的 AI 研發可能是使系統更聰明、更強大所帶來的「自然紅利」。正如編碼能力的進步導致了雙重用途的網路能力，科學能力的進步可能導致雙重用途的生物能力一樣，複雜技術工作的進步可能自然地產生具備開發 AI 系統能力的 AI 系統。
AI 驅動的 AI 研發本身蘊含著重大危險。當政策制定者評估他們可以採取的手段時，了解 AI 進步速度如何變化，以及 AI 研究是否可能開始出現複合回報，將至關重要。
用於 AI 研發的 AI
用於一般研發的 AI——即在其他領域由 AI 驅動的研究：
我們正在啟動 Anthropic 經濟指數調查，這是一項通過 Anthropic Interviewer 進行的每月調查。
相關文章
其他收藏 · 0
Anthropic 研究院概述其研究議程，重點關注人工智慧對經濟、安全與社會的影響，並利用實驗室內部的數據來引導公共政策與組織決策。
在 Anthropic 研究院（The Anthropic Institute, TAI），我們將利用從前沿實驗室內部獲得的資訊，調查 AI 對世界的影響，並與公眾分享我們的發現。在此，我們分享驅動我們研究議程的核心問題。
我們的議程專注於四個研究領域：
在《AI 安全的核心觀點》中，我們提到進行有效的安全研究需要與前沿 AI 系統保持密切接觸。同樣的邏輯也適用於對 AI 在安全、經濟和社會影響方面進行的有效研究。
在 Anthropic，我們已經看到軟體工程等工作正在發生劇變的早期證據。我們觀察到 Anthropic 內部的經濟模式開始轉變、我們構建的系統中出現了新威脅，以及 AI 開始加速 AI 自身研發的早期跡象。為了實現 AI 進步的全部益處，我們希望盡可能分享這些資訊。我們正在研究這些動態可能如何塑造外部世界，以及公眾如何幫助引導這些變化。
在 TAI，我們將從前沿實驗室內部的立場研究 AI 的現實影響，然後發布這些發現，以幫助外部組織、政府和公眾在 AI 發展方面做出更好的決策。
我們將分享研究成果、數據和工具，使個人研究人員和機構更容易投入這些研究課題。具體而言，我們將分享：
TAI 將影響 Anthropic 的決策。這可能表現為公司分享原本不會公開的數據（如經濟指數），或以不同的方式發布技術（如為 Project Glasswing 等計畫提供支持的網路威脅分析）。
我們預期 Anthropic 研究院開發的工作將日益成為 Anthropic 長期利益信託（Long-Term Benefit Trust, LTBT）的重要輸入。LTBT 的使命是確保 Anthropic 持續優化其行動，以實現人類的長期利益。我們與 LTBT 以及 Anthropic 各部門的員工共同制定了這份研究議程。
這是一份動態議程，而非固定不變。隨著證據的累積，我們將繼續微調這些問題，並預期會出現目前尚未涵蓋的新問題。我們歡迎對此議程的反饋，並將根據對話中學到的內容進行修訂。
如果您有興趣幫助我們回答其中一些問題，歡迎申請成為 Anthropic 研究員（Anthropic Fellow）。該研究員計畫為期四個月並提供資助，旨在 TAI 團隊成員的指導下解決一個或多個此類問題。您可以在此了解更多資訊並申請下一屆計畫。
最後更新日期：2026 年 5 月 7 日
了解日益強大的 AI 系統部署如何改變經濟至關重要。我們還需要開發必要的經濟數據和預測能力，以便選擇以造福公眾的方式部署 AI。
為了回答這一研究支柱中的問題，我們將進一步開發 Anthropic 經濟指數（The Anthropic Economic Index）中的數據。我們還將探索其他方法，以完善我們關於強大 AI 如何影響社會的模型，無論是驅動失業、前所未有的經濟增長，還是其他影響。
AI 的採用與擴散
生產力與經濟增長
廣泛的勞動力市場影響
工作與職場的未來
AI 系統往往會同時提升多種能力，包括雙重用途能力。一個在生物學方面變得更強的 AI 系統，在製造生物武器方面也會變得更強。在電腦編程方面表現優異的 AI 系統，在入侵電腦方面也會變得更強。如果我們能更好地理解 AI 系統加劇威脅的潛力，社會就能更容易地對這種變化的威脅格局產生韌性。
我們提出這些問題是為了幫助建立合作夥伴關係，以提高世界在面對變革性 AI 時的韌性，並為可能出現的新威脅開發預警系統。其中許多問題將驅動我們前沿紅隊（Frontier Red Team）的研究議程。
評估風險與雙重用途能力：
建立風險緩解措施：
用於監視的情報能力
個人和組織與 AI 系統的互動將是社會變革的主要來源。了解 AI 系統可能改變與其互動的人員和機構的方式，是我們社會影響團隊的核心關注領域。為了研究這些變化，我們正在改進現有工具並構建新工具來開展研究，範圍從提高平台可觀察性的軟體到進行大規模定性調查的工具。
AI 對個人和社會的影響：
識別 AI 帶來的重大影響：
理解與治理 AI 模型：
隨著 AI 系統變得更加強大，科學家正利用它們來執行更多的研究。這意味著更多的科學研究正在自主或半自主地進行，人類的主動監督越來越少。在 AI 研究本身中，日益強大的系統可能會被用來幫助開發其後續版本。我們有時稱之為「AI 驅動的 AI 研發」。
AI 驅動的 AI 研發可能是使系統更聰明、更強大所帶來的「自然紅利」。正如編碼能力的進步導致了雙重用途的網路能力，科學能力的進步可能導致雙重用途的生物能力一樣，複雜技術工作的進步可能自然地產生具備開發 AI 系統能力的 AI 系統。
AI 驅動的 AI 研發本身蘊含著重大危險。當政策制定者評估他們可以採取的手段時，了解 AI 進步速度如何變化，以及 AI 研究是否可能開始出現複合回報，將至關重要。
用於 AI 研發的 AI
用於一般研發的 AI——即在其他領域由 AI 驅動的研究：
我們正在啟動 Anthropic 經濟指數調查，這是一項通過 Anthropic Interviewer 進行的每月調查。
相關文章
其他收藏 · 0
