金錢買不到孩子看著美麗日落的笑容……但也買不到一個沒有瘧疾的世界：我對有效利他主義如何失敗的現有理解

這些年來我讀過很多班·霍夫曼（Ben Hoffman）的作品，但直到上週我才真正閱讀了他對有效利他主義（Effective Altruism, EA）運動及其組織的種種批評。我剛讀完最受啟發的幾篇貼文是：《溺水的孩子很難找》、《GiveWell 與部分資助的問題》，以及 《有效利他主義是自我推薦的》。

這篇貼文是我快速記錄下目前對班的批評的理解，我基本上同意他的看法。

EA 運動的原始理念是彼得·辛格（Peter Singer）的倫理觀點，以及他關於眾所周知的溺水孩子的思想實驗，並結合了一套工程/金融方法論，用以評估你實際上產生了多少正面影響。最權威（也是第一個？）的 EA 組織是 GiveWell，它研究各種慈善機構並發布關於其成效的研究結果。GiveWell 早期作品的核心理念是：「與幫助第一世界國家的人相比，你的金錢在幫助全球貧困人口方面可以產生巨大的影響」。主流的通俗版本是「只要一杯咖啡的價錢，你就能救活非洲的一條生命」，我認為這基本上使用了虛構且欺騙性的數字。GiveWell 的說法更像是：「我們做了一些嚴謹的研究，大約花費 5000 美元，你就可以挽救或從根本上改善非洲的一條生命」。很快地，GiveWell 及其周邊生態系統獲得了大量資金，這既是透過成功的行銷活動說服擁有好工作的普通人捐出年收入的 10%（[Giving What We Can](https://www.giving whatwecan.org/pledge)），但他們最高槓桿的事件是得到了億萬富翁科技慈善家的關注，例如 Facebook 和 Asana 的共同創辦人達斯汀·莫斯科維茨（Dustin Moskovitz），以及 Skype 的共同創辦人詹·塔林（Jaan Tallinn）。我不確定詹的資金具體是如何在 EA 生態系統中流動的，但達斯汀最終創建了 Good Ventures 作為管理其慈善事業的組織，並由 Open Philanthropy 提供諮詢。我的理解是，這兩個組織的員工都是早期的 EA 成員，在觀點上徹底貫徹 EA，且與 GiveWell 存在顯著的人事重疊。

最奇怪的事情是，在早期關於透過這些途徑實際上做了多少好事的圖景中，似乎發現了困難，而這被悄悄地迴避了，也沒有進行更多的研究來徹底查明問題。此外，還有各種跡象顯示，EA 組織本身並不真正相信他們關於能做多少好事的數據。以瘧疾相關工作為例，他們確實核實了組織是否執行了預定的程序，但最初關於瘧疾病例上升或下降的數據雜訊很大，因此他們停止關注這些數據，也沒有努力讓更好的數據變得可用。一個「EA 組織似乎不相信自己故事」的重大例子是，GiveWell 建議 Open Philanthropy 不要 僅僅全額資助其排名最高的慈善機構。這很奇怪，因為即使悲觀的數據是準確的，Open Phil 單憑一己之力幾乎就能消滅瘧疾，而像蓋茲基金會（Gates Foundation）這樣同情 EA 的組織肯定也能做到。至少，他們可以在某個國家進行非常詳盡的案例研究，並獲得更多關於估算是否可靠的高質量資訊。但這類事情最終並沒有發生。

估算非常不準確並不奇怪。奇怪的是，15 年過去了，卻沒有真正下苦功為那些被宣稱為「證據最充分、最具成本效益的救命良方」獲取非常堅實的證據。你會期望要麼獲得那些數據，然後進入一個「是的，核心 EA 理念成立現在幾乎是常識」的世界；要麼你會了解到收益並沒有那麼高或那麼容易獲得，或者消除瘧疾的障礙有著截然不同的結構，而你應該改變行銷策略，反映出「並非只要給這些地方更多錢就能輕易做很多明顯的好事」。

GiveWell 建議 Open Phil 不要全額資助項目，是主要的「訊息上游方似乎不夠相信自己的核心訊息，以至於不敢全力以赴」的表現。在非常不同的情況下，資助分攤這件事對我來說是有道理的。去年我為一個研究項目發起了一個 1.2 萬美元的群眾募資活動，我朋友的一個朋友提議直接全額資助，但我請他只有在募資期最後一週仍未滿額時才這樣做，因為我非常好奇且不確定僅在我的 Twitter 社交圈中，人們會對資助這樣的項目有多少興趣，而這些資訊對我未來弄清楚如何資助其他事情很有用。

但在 Open Phil 的情況下，「人們通常捐多少錢？」似乎並非需要挖掘的稀缺資訊，而且 Open Phil 及其友軍真的可以解決幾乎所有的資金問題，而被資助的組織理應能隨之解決巨大的問題。但他們沒有。這可以被解讀為：「事實證明，如果有足夠的億萬富翁慈善意願來解決全球貧困問題的大部分，前提是全球貧困的運作方式正如 EA 組織所建模的那樣」。你可以想像，或許存在某種信任障礙，阻止了原本願意的慈善家從正確且值得信賴的 EA 那裡獲取資訊並相信他們，但在這種情況下，雙方基本上是同一群人，慈善家已經「完全認同」EA 理念，因此事情沒有得到清晰的解決，似乎表明內部已經意識到核心 EA 故事是不正確的，並阻止了該資訊的傳播和重構。

與此相關的是，我們看到的並非「全力投入既定模型，要麼證偽並更新，要麼獲得堅實證據並加倍投入」，而是一個帶有循環定義的聲譽被建立起來。最終狀態是相當一致的 EA 訊息，即「大眾應該向 EA 組織捐款，從廣義上講，EA 組織應該掌管越來越多的事務」，儘管他們並沒有能支撐這一點的基礎實績。事實上被指出的實績是一系列諸如「我們對不同慈善機構的成效進行了高質量的研究估算」之類令人信服的事，然後將後續步驟如「我們最終轉移了數億美元！」作為進一步值得信賴的證據，但實際上這只是在最初的「人們覺得我們的研究可靠並給予我們疑點利益（benefit of the doubt）」上進行「雙重計算」。要完全兌現承諾，他們需要證明產生的效益符合預期（或者即使證明不符，如果過程和研究是好的，且看起來他們正在學習，那麼繼續信任他們也是非常合理的）。

這感覺與我前幾次聽到理性主義者提到 Anthropic 時的情況略有相關。當時的語境讓我以為它是一個由理性主義者運行的 AI 安全組織，而不是一個主要的 AI 能力實驗室。不知何故，存在著一種迷思：「它是理性主義者的，這意味著它是好的且關心 AI 安全」。同樣地，聽起來 EA 最終的行為和發布的訊息就像是：「你可以信任我們，因為我們被貼上了 EA 的標籤」，而忽略了他們本可以做的某些最高階的事項，那些事本可以給予他們更明顯、清晰且穩健的實績。我想還有提到類似「經驗上 Open Phil 很難找到可以捐錢的地方，但人們仍在發布訊息說大眾顯然應該將資金導向這個領域」之類的事情。

現在，對於早期 EA 成員可能是什麼樣的人，有一種結論可能只是：「該死，我想他們是騙子，不該信任他們」。但早期似乎有足夠多明顯深思熟慮且研究充分的努力，使得這種說法看起來不合理。相反，這似乎表明億萬富翁慈善事業非常困難且/或不可能，至少在保持一套特定假設的情況下是如此。在這裡，我不認為我讀過能解釋「如果不是花一杯咖啡的錢就能救一條命，那事實到底是什麼？」的 EA 批評，但我的理解受到了班等作家的啟發。那麼事實是什麼？在工程意義上，根除瘧疾可能並非根本性的困難。更像是「存在著掠奪性的社會結構，旨在從任何可能嘗試向全球貧困人口提供好處的途徑中榨取利益」。有很多非常明顯的例子，比如援助資金和食物被送往某些國家，而該國政府基本上只是將其作為戰利品分發給親信，只有部分或根本沒有到達其他人希望幫助的人手中。這似乎存在各種或多或少微妙的版本。

問題也不僅僅存在於第三世界那一端。第一世界的人們似乎通常無法召集足夠多的人，讓他們對「說實話是有用的」有共同的理解，從而擁有大規模的功能性「官僚機構」（即「能準確處理資訊的人員生態系統」）。班的《專業人士的困境》探討了周遭的專業主義文化如何阻礙大型功能性組織說實話和學習事物。

因此，事情的經過似乎是：早期的 EA 成員（我相信他們來自橋水基金）認真地嘗試將金融和工程思維應用於慈善任務。他們做了一些良好的早期舉措，並獲得了數十億美元資金的關注。隨著事情的進展，他們開始注意到使簡單捐贈假設變得複雜的因素。與此同時，由於許多人的信任和關注，他們也變得越來越龐大，並處於一種破壞性的專業主義預設文化越來越吸引人的位置。這些壓力足以迅速侵蝕慈善事業保持穩健真實所需的認識論嚴謹性。EA 成了聰明、年輕、心懷善意的人們的預設吸引力中心，因為關於將資金投入良好用途的簡易性的訊息一直沒有更新。它也成了投機者的吸引力中心，他們只看到權力、金錢和權威的積累並想參與其中。透過周遭文化壓力對善意人士清晰思維的沈默或扭曲，以及接受了意圖模糊和意圖不良者的快速增長，它失去了保持專注於真相和使命的能力。雖然它可能仍然比其他慈善實體進行更高質量的研究，但它放棄了下一個明顯的步驟——傳播關於世界上行善的實際阻礙和限制的資訊，並已成為一個通用的吸引子，即「僅僅試圖積累更多資源的東西，因為我們應該掌管更多資源」。