CFAR 的近況如何？（更新與募款活動）

這篇文章是年末系列活動的核心部分，旨在邀請大家對 CFAR 進行真實的對話，發布時間正值我們的募款活動。

前言 / 這篇文章是關於什麼

我寫這篇文章的主要目的是希望與 aCFAR[1] 展開一場真實的對話，幫助我們融入一個（在對話之後）了解我們的社群。我打算透過向各位展示我們處理事情的多個面向，並提供足夠的細節讓各位能參與評論（kibitz）[2]，來達成這個目標。

我的次要目的（同樣也是我所關心的）是想看看在各位了解我們是誰以及我們在做什麼之後，是否有人願意捐款。（有些人可能想直接跳到捐款章節。）

由於這篇文章的部分目的是為了讓各位評論我們的流程，所以內容較長[3]。與大多數募款文章相比，它的結構也有些不尋常。請隨意跳讀，並在閱讀完任何（哪怕是極小部分）感興趣的內容後，參與評論區的討論。

我希望 CFAR 生活在一個社群中

我希望 CFAR 生活在這樣一個社群：

• 人們能看見 aCFAR。
• 我們能看見各位正在看著我們。
• 大家分享的是他們所看到的真實情況，而不是理論上他們「應該」看到的。
• LessWrong 內部以及 CFAR 校友社群中感興趣的朋友，能從我們在嘗試事物與現實碰撞時所累積的經驗中獲益。我們的失敗與停滯並非不透明（它們有運作機制），而我們的成功可以成為他人發展的基礎。
• 各位可以告訴我們遺漏了什麼，並幫助我們進行更酷的實驗。
• 我們在共同知識（common knowledge）中都意識到 aCFAR 只是眾多團體中的一個。我們共同知道其他團體已經有了規範、習俗和各自的領地。我們和各位都能追蹤我們對周遭空間產生了正面還是負面的影響；這樣更容易成為一個好鄰居。

過去，CFAR 不知道如何以這種方式生活在社群中（部分原因是我經常負責，而我不知道該怎麼做）。但我認為現在的 CFAR 和我已經具備了這種能力。

舉一個落差的例子：我以前總是以某種方式試圖聲稱，我們正以最好、最符合有效利他主義（EA）效率、或最理性的方式運作組織。結果，每當有人在公開場合爭論說某些修正後的行動會更好時，我認為我必須二選一：

1. 改變我正在做的事（這成本很高，特別是在我有一個對方沒追蹤到的多步驟計劃，或者我知道一些對方不知道的事情時）。
2. 反駁他們（成本也很高；需要轉移背景資訊和推論距離，而且即便如此他們也未必會被說服，但我仍想看看我的方案會如何發展）。
3. （為下次）做安排，讓像他們這樣的人不再說那樣的話，例如隱瞞我們的運作資訊，讓大家無法批評我們的計劃。

但現在不同了。我們顯然是一個特定的組織，由特定的人所信任，並擁有具體的細節。我們共同相信的前提（即我們 CFAR 員工正在構建事物的運作前提）與我們的認識論（epistemics）以及關於「什麼是客觀上最好」的主張是分開的。

總之：為 CFAR 請求這種形式的社群成員身份，並讓各位能對 CFAR 進行自由且充分的對話，是本文的主要任務。親愛的讀者，如果你有興趣且有能力，這也是我想請求你做的主要事情。

評論請求

我特別希望能得到以下幾類評論：

• 讓我們能輕易透過你的眼睛看見 CFAR。（我們幫助過你嗎？傷害過你嗎？我們看起來像是在胡言亂語的隨機路人嗎？我們看起來無可救藥地盲目嗎？我們是否以某種方式讓你的生活變得更輕鬆？你是否在意 CFAR 的發展？）
• 提出問題。
• 標出你覺得不合理的地方，或你注意到困惑的地方。
• 猜測我們在已知卡住的地方該如何脫困。
• 猜測我們的盲點是什麼，以及什麼樣的實驗能讓我們在尚未意識到卡住的地方看得更清楚。
• 幫助那些年輕或來自社群外部的人看清事物的「真實原因」，如 Sarah 的第 6 點所述。
• 大聲說出你的期望。
• 試著談談你為什麼在意，而不是將其歸類到最接近的概念範疇。

自我介紹：我、aCFAR……還有你，讀者？

我先開始介紹。

我是 Anna Salamon。我童年時期都在研究……不完全是數學，雖然也有數學，但主要是研究我或他人學習數學的過程[4]。

在理性主義/AI 風險領域，我覺得自己有點像個老兵，我想許多資深人士也有同感。我在 2008 年加入 AI 極端風險（x-risk）領域，因為當時從事這方面工作的人少得令人震驚（大約只有五個全職等量的人力，分散在大約二十人身上）。我像當時的許多人一樣，非常努力地工作，同時感到與幾乎所有無法察覺 AI 風險的人隔絕，我們必須在他們不理解的情況下拯救他們。我與其他從事極端風險工作的人之間有一種強烈的、功利主義式的信任。

從 2012 年到 2020 年，我非常努力地投入 CFAR（最初是根據 Eliezer 的建議），旨在提供一個社群，讓從事 AI 風險工作的人能減少與周遭環境的疏離感。後來，我對於什麼樣的「組織」有機會讓事情變得更好，產生了一些難以言喻的想法轉變。現在，我希望能再次推動 aCFAR，以不同的方式。

我也試著把 aCFAR 當作一個有歷史的特定人物來介紹：

讀者，這位是應用理性中心（aCFAR）。

在過去，CFAR 是灣區理性主義社群以及廣義理性主義和 AI 安全運動的主要共同創始者之一——人們會來到這裡，被我們課程中某種神奇的力量所吸引，在某些情況下搬到灣區（或其他地方）在 MIRI 工作、共同創立 FLI 或做其他酷炫的事情。（我們曾有約 1900 名[5]賓客參加過為期 4.5 天或更長時間的各類計劃）。CFAR 還促使了「雙重核心」（double crux）、「觸發動作計劃」（TAPs）和「內在模擬器」（inner simulator）等概念在理性主義和 EA 空間中傳播。我們希望逐漸透過一套新的概念來達成類似的事情[6]。

今天，CFAR 是舉辦工作坊的載體，這些工作坊由我和目前的其他員工認為有價值，它們是經典 CFAR 內容（源自 Eliezer 的《序列》）與一些旨在「尊重『主體性』（who-ness）」的新內容的結合。正如全文所討論的，這也是一個實驗。

如果你願意介紹自己（我會很感激！），有兩種好方法：

• 你可以在「自我介紹」子討論串中談談你自己以及是什麼讓你加入這場對話。
• 或者，你可以寫一些針對具體內容的評論，並加上一兩句關於你的背景。

接下來進入正文！

工作坊

工作坊一直是 aCFAR 工作的核心。我們大部分的員工時間都花在琢磨如何讓工作坊變得更好、觀察參加者以確認效果、反覆迭代等等。這是我們對理性的見解賦予生命、改變我們、並在與各位接觸中被改變的地方。

所以——如果你想評論我們目前的產出機制——工作坊可能是你最能看清它們的地方。

對於剛認識我們的人：CFAR 工作坊是一個為期 4.5 天的營隊，有大約 25 位背景各異的嘉賓、約 12 名員工和志工，以及大量的努力、理性思考和對話。工作坊通常包含一系列關於理性技巧的課程，以及大量時間來應用這些技巧並嘗試解決現實生活中的實際問題。我們目前計劃在 1 月 21 日至 25 日於德州奧斯汀舉辦下一場工作坊。

工作坊：最喜歡的部分

在我最喜歡的工作坊正面指標中：

1. 人們在工作坊和校友網絡中交到了朋友。

在我們的歷史中，許多工作坊嘉賓告訴我，CFAR 工作坊是他們自大學畢業十年或更久以來，第一次成功交到朋友。

這並非工作坊偶然產生的副作用；我們特意將工作坊調整為：(a) 創造讓人們能進行深度更新（這有助於建立真實友誼）的環境，以及 (b) 安排小型互動課程與夥伴協作、提供「姓名與面孔」的 Anki 牌組、舉辦閃電演講等，讓在工作坊結交新朋友變得容易。

這對我們來說並非獨立於「理性訓練」主要目標之外的次要目標；在我看來，[那種能讓人變得更強大、能改變一個人的對話與友誼] 與「理性」核心的真正價值之間存在著深刻的聯繫，以至於（真正的友誼、理性）每一方都能啟動另一方。

2. 人們在工作坊中進行了更新其行動真實產生機制的對話。

在預設的世界中，許多對話涉及人們解釋為什麼一個理性的人可能會相信或做出他們正在做的事，卻不分享（或通常不知道）他們選擇的真實原因。但在 CFAR，行動的真實原因通常（且現在也是）能適當地進入對話中。

與此相關的是，工作坊的人們會變得至少能短暫地考慮改變那些他們認為理所當然的事情，例如職業路徑、與他人相處的方式等，而且他們是在一個充滿好奇心、容納多種不同想法的環境中進行的。

3. 工作坊顯得「充滿活力」，因為它感覺很自然，充滿了奇特的細節等等。

如果 CFAR 運作良好，我們應該有餘裕、洞察力和關懷，去把許多側面細節做得非常棒。我們過去做得很好；現在似乎做得更好了。

例如，在我們 11 月工作坊的「探索」（Questing）環節中，我們讓 CFAR 講師安排了簡短的「插曲」，讓人們在 10 分鐘的「英雄與夥伴」問題解決時段之間能喘口氣並反思片刻。然而，由於一個小小的排程失誤，CFAR 講師 Preston 最終必須同時出現在兩個地方。Preston 解決問題的方法是設置了一個「神諭」（oracle）來運行他的內在模擬（inner simula...）部分。