協助我們尋找新AI安全專案的創始人

在過去 10 年中，Coefficient Giving（原名 Open Philanthropy）資助了數十個與 AI 安全 / 引導轉型 AI (Transformative AI) 相關的重要項目。然而，在那些能改善轉型 AI 預期結果的活動中，可能絕大多數都沒有顯著的項目在推動，更不用說有多個項目並行了。

這主要是因為我們與該領域的其他資助者，並未收到針對大多數理想活動的具備前景的申請，因此生態系統中仍存在巨大的空白，例如：
^([[1]])

• 在許多重要但目前被忽視的國家進行政策制定、諮詢與倡議。

• 開發並倡導更好的模型規範（Model Specifications）的項目。

• 填補 AI 資訊安全關鍵空白的項目，例如：讓「幾乎整個」前沿 AI 模型開發與部署工作流都能在機密運算環境中運行的軟體，或是能提高公司偵測與阻斷權重外洩（Weight Exfiltration）企圖能力的路由器軟體。

• 開發並部署新工具，以偵測與監控野外（In the wild）危險 AI 行為的項目。

• 為公司與國家建立更好的降級（De-escalation）機制，類似 Catalink 的項目。

• 建立更穩健的事件追蹤與報告生態系統的項目。

• 開發並推廣新技術，以實現國際 AI 條約驗證的項目。

• ……以及更多。

為了填補這些空白，我們有時會進行「主動資助（Active Grantmaking）」，其內容包括：(a) 規劃一個能填補該領域關鍵空白的項目或組織，(b) 為該組織獵取合適的創始人，以及 (c) 說服他們接受我們的資助來建立新的項目/組織（並根據其優勢與戰略視角進行重塑）。

我們過去曾多次這樣做，並且（我認為）取得了巨大的成功，但這比「被動資助」（調查受助者的續約申請與新傳入的申請）需要多得多的工作人員時間。

我們希望大幅擴大主動資助工作的規模，以盡快填補生態系統中最重要的空白，而為了實現這一點，我們需要聘僱更多的員工。

這項倡議的關鍵職位之一是「主動資助支援」招募人員 (Active Grantmaking Support Recruiter)，該職位將協助我們的計畫團隊（例如我領導的 AI 治理與政策團隊）為新項目獵取創始人。我們希望為這個職位聘僱多人，而我們預計瓶頸在於獲得足夠優秀的申請者。

因此，請在 12 月 7 日截止日期前提交申請，幫助我們填補 AI 安全生態系統中的關鍵空白！（另請注意，成功推薦人才可獲得 $5000 獎金。）

（如果您有興趣獲得資助來解決這些空白，可以在此處提交簡短的意向書。）

備註

• 需說明的是，此列表中的某些項目目前已有部分活動在進行，但其規模與成熟度遠未達到我認為理想的程度。↩︎