我們未竟的資金討論

在 AI 行業工作的人正賺取著驚人的財富，且坊間傳聞 Anthropic 很快將迎來某種流動性事件（例如可能在明年某個時候進行 IPO）。許多在 AI 領域工作的人都熟悉有效利他主義（EA），並打算將捐款投向我們（如果他們還沒開始的話）。人們開始討論這對個人捐贈和整個生態系統可能意味著什麼，看到這一點令人振奮。

這也讓我想起了 2022 年。就在 FTX 倒閉之前，作為一個社群，我們才剛開始應對因擁有大量可支配資金而帶來的 EA 氛圍顯著轉變。

CitizenTen 在《禿鷹正在盤旋》（The Vultures Are Circling，2022 年 4 月）中是這樣描述的：

消息已經傳開了。這裡有容易到手的錢。禿鷹們正成群結隊而來。在許多網路圈子裡，出現了一種令人擔憂的基調。「你應該申請 [某項 EA 資助]，我所做的只是假裝關心某事，然後我就拿到了錢！」或者，「我甚至不是一個 EA，但我可以假裝是，因為獲得 1 萬美元的資助是實現 [此處插入糟糕的人生目標] 的良好工具性目標。」或者，「你聽說那個 16 歲的孩子拿到了某某金額的錢嗎？太荒謬了！我以為 EA 應該是有效率的！」或者，「你只要嘴上說著社群建設，就會有人把大把大把的錢扔給你。」

基本上，獎勵的急劇增加導致了那些為了錯誤目標而進行優化的人數上升。你好，古德哈特定律（Goodhart's Law）。我們開始看到的不再是具有內在動力的 EA，而是那些為了履歷貼金的人、職業優化者，以及那種為了讓孩子進入更好的大學而在幼兒園入學測試中作弊的人。我已經聽說有一些 Discord 伺服器專門研究如何鑽資助申請流程的漏洞。這並非事出無因。Atlas Fellowship 提供 5 萬美元且無附加條件的獎學金。如果你想讓人在鑽系統漏洞時拋棄任何猶豫，提供一個比大多數成年人年收入還高的誘餌就能做到。

那個時期的其他高讚文章包括：

• 《我對身邊到處是錢感到焦慮。讓我們談談這件事》（I feel anxious that there is all this money around. Let's talk about it）—— Nathan Young，2022 年 3 月
• 《揮霍無度的 EA 可能是公關形象和認識論上的大問題》（Free-spending EA might be a big problem for optics and epistemics）—— George Rosenfield，2022 年 4 月
• 《EA 與當前的資助狀況》（EA and the current funding situation）—— Will MacAskill，2022 年 5 月
• 《揮霍無度的 EA 最大風險不是公關形象或動機性認知，而是詐取》（The biggest risk of free-spending EA is not optics or motivated cognition, but grift）—— Ben Kuhn，2022 年 5 月
• 《當前社群建設中的凶兆》（Bad Omens in Current Community Building）—— Theo Hawking，2022 年 5 月
• 《EA 運動的價值觀正在漂移。你可以選擇留在原地。》（The EA movement’s values are drifting. You’re allowed to stay put.）—— Marisa，2022 年 5 月

我希望 FTX 沒有進行詐騙並倒閉，原因有很多，但其中一個原因在目前看來尤為突出：我們從未完成對「充裕的資金如何影響一個高信任度的利他社群」的處理過程。這場對話才剛剛開始。

我本想說我擔心這些動態會再次出現，但這裡的情況稍微複雜一些。Ozy 實際上在 2024 年初指出了（部分）EA 中類似的功能失調：

有效利他主義文化應該是關於以最有效的方式投入資源來行善。當然，有時行善最有效的資源投入方式看起來並不節儉。我長期以來一直主張有效利他主義慈善機構支付給員工的薪水應遠高於非營利組織的平均水平。一位明智的投資者可能會進行 99 次沒有回報的投注，以換取一次巨大的回報。但有效利他主義文化應該極度專注於從每一美元中獲得最大的收益，因為美元是以生命為單位的。
...
環遊世界是酷且高地位的。去冒險是酷且高地位的。與名人和有影響力的人共度時光是酷且高地位的。而且，上帝救救我們吧，拯救世界也是酷且高地位的。

我認為類似這樣的事情是許多人對炫耀性的有效利他主義支出感到不安的根源。並不是說玩遊艇很貴。而是如果你的有效利他主義觀念就是玩遊艇，那麼一個理智的人可能會擔心你已經偏離了初衷。

所以這些動態並非「再次出現」。它們從未離開。我擔心當金錢再次敲門時，它們可能會被進一步加速。