考慮捐款給RAISE法案的作者Alex Bores
我建議捐款給紐約州《RAISE法案》的作者 Alex Bores,因為他正啟動聯邦眾議員競選活動,致力於推動人工智慧安全與合理的監管政策。
這篇文章是以我個人身分撰寫,所表達的觀點僅代表我個人。感謝 Zach Stein-Perlman、Jesse Richardson 以及許多其他人的評論。
[在此捐款 —— 請使用此連結,而非直接前往他的網站 —— 但請至少閱讀前幾段內容。]
在過去幾年裡,我寫過許多關於政治和政治捐款的文章。在這篇文中,我將向你介紹我所遇過最好的捐款機會之一:捐款給 Alex Bores,他於今天宣布參選國會議員。
如果你有興趣捐款給 Bores,我的建議是:
- 閱讀本文以了解捐款給 Alex Bores 的理由。
- 了解政治捐款是公開紀錄,這可能會對職業生涯產生影響。請決定在已知此情況下是否仍願意捐款給 Alex Bores。
- 如果你想捐款給 Alex Bores:**今天(10 月 20 日星期一)**的捐款特別有價值。你可以透過此連結捐款。(請使用此連結,而非直接前往 Bores 的網站捐款——這能讓他知道這筆捐款來自關心 AI 安全的人!)
或者如果你只是好奇,就閱讀你感興趣的部分吧!
前言
今年六月,Zvi Mowshowitz 寫了一篇關於紐約州 RAISE 法案的文章。我鼓勵你閱讀 Zvi 的全文(我會在下方提供簡短摘要),但 Zvi 的核心觀點是:
該法案本身雖然不足,但相對於現狀是重要的改進。我強烈支持這項法案。RAISE 法案是少數專門旨在減輕 AI 帶來的災難性和生存風險的法案之一。(該法案已在紐約州議會通過,並很可能在未來幾個月內由州長簽署。^([1]))
該法案的提案人是州議員 Alex Bores(民主黨籍)。在看到加州 SB 1047 被否決後,Bores 決定將 AI 安全作為他的首要任務。他發起了 RAISE 法案,並竭盡全力推動其在議會通過,過程中耗費了巨大的政治資本(見下文)。
今天(10 月 20 日星期一),Alex Bores 宣布他將競選美國眾議院議員。 引用《紐約時報》的報導:
曾任軟體工程師的 Bores 先生表示,技術進步的飛速及其對美國民主的影響迫使他參選。他指出川普總統與富有的科技高層之間的密切關係,以及人工智慧和其他可能扭曲現實的軟體無處不在,並表示他感到大多數民主黨領導人缺乏應對此類挑戰的能力。
雖然他並非目前最被看好的候選人,但我認為他有相當大的勝算。基於下文所述的理由,我對他的國會競選感到非常興奮,並認為選出 Bores 對於美國制定明智的 AI 監管將非常有益。我也認為,資助 Bores 的競選活動是我目前所見減輕 AI 生存風險的最佳機會之一。我計劃向他的競選活動捐贈 7,000 美元(法定最高限額),我認為本文的許多讀者也應該這樣做。
請注意,在 10 月 20 日星期一捐款給 Bores 的價值遠高於稍後捐款。 這是因為競選團隊通常會發布新聞稿,宣布他們在第一天籌集了多少資金。這有助於候選人獲得背書。(詳情請參閱此處。)
(如果你今天,即 10 月 20 日,才第一次聽說 Bores 並感到急於捐款:是的,我很抱歉。請參閱本文的此部分以了解相關想法。)
如果你已經決定捐款給 Alex Bores,可以在此捐款(非常感謝!)。我的捐款建議是 7,000 美元(最高限額),如果你負擔得起的話。(但請注意:在決定捐款前,請意識到政治捐款是公開紀錄!如果你未來有興趣在聯邦政府工作,這可能會對你的職業生涯產生影響。我在下文討論了這些影響。)
如果你想了解更多捐款理由,請閱讀本文其餘部分 🙂
(註:我的目標是提供對此捐款機會不偏不倚的最佳評估,我擔心人們可能較不願意分享反對捐款的論點。如果你認為捐款有我未提及的重大缺點,請留言或寄電子郵件給我。)
在進行明確的成本效益分析之前,我想提到一些我特別欣賞 Alex Bores 的地方。
我欣賞 Alex Bores 的地方
我最欣賞 Alex Bores 的一點是他在 AI 安全方面有著卓越的紀錄。具體而言:
-
他發起了 RAISE 法案。簡而言之,RAISE 法案要求大型模型開發者(訓練成本超過 1 億美元者)必須:
- 向總檢察長和國土安全與緊急服務部報告「安全事件」。(這類似於公司必須報告網路安全漏洞的方式。)
- 制定並遵守安全計劃以防止嚴重風險。
- 不得發布會造成不合理「重大損害」風險的模型(大致定義為:導致一百人或更多人死亡或重傷,或造成至少十億美元的損失)。
-
他竭盡全力推動 RAISE 法案在議會通過,過程中耗費了巨大的政治資本。
在紐約州議會,並非所有法案都會進入投票。只有當紐約州參議院多數黨領袖和眾議院議長決定將其付諸表決時,法案才會被投票。在這種情況下,將法案付諸表決在政治上代價高昂:因為大型科技公司的遊說機構投入了巨資試圖擊沉該法案,並隱含威脅要資助反對那些協助法案通過的議員。通常情況下,即便法案獲得壓倒性支持,這種反對也會讓法案夭折。然而,特別有能力的立法者(Alex Bores 是其中之一^([2]))可以與立法領導層建立足夠的政治資本,使他們偶爾能將這些資本花在他們特別關心的法案上。Bores 在 RAISE 法案上就做到了這一點。 -
他對法案的細節瞭如指掌,這從他在眾議院辯論中應對敵對提問的表現,以及他在 Cognitive Revolution 播客上的訪談中可見一斑。
請注意,這相對罕見:大多數立法者對他們發起的 AI 法案並不特別了解。 -
我曾與多位與 Bores 合作過的 AI 政策專家交談。他們對他對 AI 治理技術細節的理解,以及他致力於確保先進 AI 安全開發的決心印象深刻。
雖然這對我來說是最重要的考量,但我還欣賞他的其他特質:
- 我最近見過他,他給我留下了異常誠實的印象。我曾與幾位知名政治家交談過,雖然他們對我並不虛偽,但有時會調整措辭以取悅我。我在 Alex 身上完全沒有這種感覺。他對我問到的每個問題都如實相告,這種方式讓我非常欣賞。
- 他的首要任務之一(除了 AI 安全)是守護美國民主並防止民主倒退。他計劃透過推動限制總統權力的立法來實現這一點。我很高興他計劃優先考慮這件事。
- 他關心動物福利。例如,他主導了一封預算信函^([3]),要求在紐約建立替代蛋白研究中心。他是一名素食者。
- 他共同發起了一項法案,旨在紐約實施土地價值稅試點計劃。他最近還提出了一項法案,防止體育博彩公司限制贏錢的玩家(基於此處所述理由,我認為這是一個好主意)。這讓我認為 Bores 總體上是一位技術官僚,會支持重要且經過深思熟慮的政策。
- 他擁有電腦科學碩士學位。(事實上,他是紐約州第一位擁有電腦科學學位的州議員!)我認為他的技術背景對於評估科技監管法案非常有用。
Bores 有什麼讓我猶豫的地方嗎?
Alex Bores 曾在 Palantir 工作過幾年。我認為 Palantir 的許多活動相當惡劣。即便如此,據我所知,Bores 在 Palantir 期間並未參與任何此類項目,且他表示他離開 Palantir 是因為對其與 ICE(移民及海關執法局)的合作感到擔憂。
Bores 也強調他與工會的聯繫以及對有組織勞工的支持。我對工會的看法通常比較複雜,而支持有組織勞工通常是政治人物立場偏左的信號(而我是中左翼)。即便如此,我的總體印象是 Bores 屬於中左翼,而非激進左翼。
所以:或許有一些非常微不足道的小點?但基本上,沒有。
成本效益分析
本節分為兩個子部分:
- 額外的 1,000 美元如何影響 Alex Bores 的勝選機率?
- 如果 Alex Bores 贏得選舉,這有多好?
我對第一部分的估計會精確得多,因為這是一個相當直接的統計模型問題,但這兩部分在分析中同樣重要。
額外的 1,000 美元如何影響 Alex Bores 的勝選機率?
綜合考慮,我猜測 Alex Bores 有 20% 的勝算。我的最佳估計是,在 10 月 20 日星期一捐贈的邊際 85,000 美元能將他的勝選機率提高 1%。(我的 50% 置信區間大約在 [4 萬美元, 17 萬美元] 之間。)我也估計,在 2025 年 10 月 20 日之後捐贈的邊際 105,000 美元能將 Bores 的勝選機率提高 1%。細分如下:
-
我估計 Bores 在初選中落敗但差距小於 1,000 票的機率為 1.6%。
-
我估計 Bores 競選團隊每增加 300 美元的廣告支出,就能吸引多一位選民的支持。^([4])(註:信心度低;如果這個數字有 2 倍的誤差我也不會感到驚訝。)
-
我估計 2025 年捐贈的資金價值是 2026 年的 2 倍,因為在早期籌款數字中展現實力能鞏固黨內支持(或防止對手鞏固支持),而 10 月 20 日星期一捐贈的資金價值是 2026 年的 2.5 倍。
Erik Bottcher 是 Alex Bores 的初選對手之一,他在第一天籌集了 68.3 萬美元(紐約州紀錄),這產生了積極的新聞頭條並確立了他作為嚴肅候選人的地位。如果 Alex 能打破 Bottcher 的紀錄,特別是大幅超越,那麼圍繞他參選聲明的熱度將會有質的不同。我猜測 Bores 會打破 Bottcher 的紀錄,但我不認為這是十拿九穩的。 -
我將我的成本效益估計調整了 10%,以考慮到如果 Bores 籌集到大量資金,大型科技公司的超級政治行動委員會 (super PAC) 可能會介入(或增加支出)。
將這些數字相乘得出上述估計。我不確定讀者對細節的興趣程度,因此我將我的推論放在附錄中。
如果 Alex Bores 贏了,這有多好?
假設你相信我的估計,即在 Alex Bores 啟動日捐贈的邊際 85,000 美元會增加他 1% 的勝選機率。那麼這樣的捐款有多有效?
我們需要思考與使用 850 萬美元的其他方式相比,Bores 勝選預期會帶來多少影響。^([5]) 為此,我將首先列出我認為 Bores 贏得這場競選最重要的成果。
對立法的直接影響
我認為 Alex Bores 有三種主要方式可以直接影響立法,從而有利於 AI 安全。
第一種是在邊際上影響大型支出法案,引導更多政府資金投入 AI 安全。政府每年通過 7 兆美元的預算;在許多年份,還會通過另一項數兆美元的支出法案。這些法案規模巨大,個別代表往往能影響其中一小部分資金(但絕對金額仍巨大)的用途。一位將 AI 安全視為首要任務的代表,很有可能促成預算中包含一項撥款 10 億美元用於 AI 安全的條目。
第二種是影響 AI 立法:無論是在全面的 AI 立法中加入安全相關條款,還是使專門的安全立法更明智、更針對災難性風險。如果 Bores 獲勝,他可能是國會中唯一選擇優先考慮 AI 安全且具備相關專業知識的成員。這絕對不意味著他在 AI 安全問題上能隨心所欲,但我認為他的意見會被聽取,並產生一定的影響力。
第三種是發起重大的 AI 安全立法。雖然我們目前所處的政治環境尚不足以通過重大的 AI 安全立法,但這種情況很容易改變,可能是因為人們對 AI 感到更加恐懼,或者因為我們迎來了一個對 AI 監管更友好的總統政府(例如在 2029 年)。如果發生這種情況,Alex Bores 可能會在聯邦層面發起並倡導一項重大的 AI 安全立法(類似於加州的 SB 1047)。Bores 表示,如果當選,他將在聯邦層面推動 AI 安全政策。
眾議院是通往更具影響力職位的第一步
Alex Bores 正在競選眾議院席位,但許多眾議員後來會擔任更高階的角色。
我猜測 Bores 最終擔任這些角色的條件機率(如果他當選眾議員)大約是:
- 參議員:4%
- 內閣級官員:4%
- 州長:2%
- 總統:0.2%
我認為這非常重要。如果 Bores 成為內閣級官員(例如商務部長),他很可能在該職位上對總統行政當局的 AI 政策產生相當大的影響。
鼓勵該領域的更多行動
OpenAI 總裁 Greg Brockman 和 a16z 共同創辦人 Marc Andreessen 最近創建了一個超級政治行動委員會 (Super PAC) 來對抗 AI 監管,擁有 1 億美元的戰略資金。我預計大型科技公司將在初選中花費數百萬美元反對 Alex Bores。如果 Bores 能證明即使對抗大型科技公司也能贏得競選,我認為這將鼓勵其他立法者不顧大型科技公司的反對,發起類似 SB 1047 和 RAISE 法案的法案。
我還認為,Bores 的當選將鼓勵更多 AI 安全領域的人士參與政治,無論是透過政治捐款促進 AI 安全,還是親自參選。
這與其他 AI 安全捐款機會相比如何?
我將其他的 AI 安全捐款機會分為三類:技術性 AI 安全、非政治性 AI 治理,以及政治。
與技術性 AI 安全的比較
我認為捐款給 Alex Bores 優於我所知的所有技術性 AI 安全機會。理由有二:
- 億萬富翁們已經涵蓋了這部分。我認為資助最佳技術性 AI 安全議程中「低垂的果實」大多已被採摘。
- 我認為針對 AI 生存風險的技術安全工作的預期反事實資金量相當大:如果 Bores 當選,每年約有 5,000 萬美元(見上文「影響大型支出法案」)。我認為這些撥款雖然可能不如本社群成員資助的邊際技術性 AI 安全撥款那麼好,但仍然相當不錯。而這僅僅是選出 Bores 對 AI 安全有益的幾種方式之一。
與非政治性 AI 治理的比較
我認為 AI 治理中最好的干預措施之一是培訓有志於在聯邦政府(例如擔任國會幕僚)從事 AI 安全工作的人才。
我目前不知道資助此類努力的絕佳途徑,但我認為它們適合作為比較點。我大膽猜測,創造一個專注於生存風險的 AI 治理反事實職業生涯大約需要 50 萬至 100 萬美元。(這是假設有低雙位數百分比的研究員因為他們的獎學金而反事實地最終從事此類職業。)因此,850 萬美元可以用來創造大約十個 AI 治理職業。這些是邊際 AI 治理職業,而非最頂尖的;我猜測這十個職業的預期效果可能實質上不如讓 Alex Bores 進入國會(儘管差距可能小於 10 倍)。
與其他政治機會的比較
遺憾的是,我在這裡能說的有限,因為大多數機會都很敏感。然而,我相信這是目前存在的最佳政治捐款機會,領先幅度約為 2-3 倍。
我認為次好的捐款機會(僅次於 Bores)是那些旨在與現任國會議員建立關係的機會。目前還有幾位正在參選的人士似乎值得捐款,但我認為那些捐款機會大約差了 2-10 倍。
我預計像這樣令人興奮的重大機會非常罕見(大約每幾年一次)。一個參考點:據報導 Scott Wiener 將競選國會議員。我對此超級興奮,並認為我們大約每年才會遇到一次這麼好的重大捐款機會。儘管如此,我認為捐款給 Bores 看起來更好一點,主要是因為我更確定 Bores 會持續優先考慮 AI 安全。^([6])
如果你正在尋找今年慈善捐款預算的年度最佳用途,我不知道有比這更好的機會,而且我不認為會再出現。
與非 AI 安全機會的比較
我認為選出 Alex Bores 進入國會將使生存風險降低約五千分之一。當然,這取決於我對 AI 的特定看法,但我會列出我的計算過程,以便你可以代入自己的數字。
- 美國政府在 AGI 來臨前的決定將對 AI 的發展軌跡產生巨大影響。根據美國政府對 AI 的決定是明智還是不明智,我主觀的生存風險機率差異約為 5%。
- 國會是其中的重要部分:它的決定雖然不如行政部門重要,但我認為國會的行動約佔美國政府整體行動重要性的 10%。
- 透過上文討論的一些途徑,讓 Bores 進入國會可能會使國會在 AI 問題上改善 2%。
- 此外,我認為 Bores 的預期影響力有很大一部分(或許一半)會透過進入國會以外的途徑實現,例如擔任內閣部長。(因此,有 2 倍的乘數。)
將這些數字相乘得出五千分之一,這確實相當可觀。我認為即使不考慮未來世代,這個捐款機會與非 AI 安全機會相比也非常有競爭力。
捐款物流與細節
誰可以捐款?
任何美國公民或永久居民(例如任何綠卡持有者^([7]))都可以捐款。
我可以捐多少?
你最多可以捐贈 7,000 美元:初選 3,500 美元,大選 3,500 美元。如果 Alex Bores 在初選中失利,你將退回超過 3,500 美元的所有捐款。
請注意,即使 Bores 在贏得初選的前提下幾乎肯定會贏得大選,這第二個 3,500 美元對他仍然有用,原因有二。首先(如上所述),捐款價值的很大一部分在於幫助 Bores 展現實力並鞏固支持。其次,籌集更多資金的代表往往能獲得更好的委員會分配,而 Bores 如果能進入例如科學、太空與技術委員會似乎非常有用。
事實上,由於(根據我的估計)Bores 只有 20% 的機率贏得初選,因此有 80% 的機率你會退回超過前 3,500 美元的所有捐款。這意味著有 80% 的機率,這些錢的影響力是「免費」的(至少如果你忽略資金的時間偏好)。雖然這些錢的影響力較小,但我上方估計捐款價值的 50-60% 在於展現競選實力。^([8]) 基於此理由,我相信超過前 3,500 美元的每一美元在預期上具有超過 2 倍的價值。如果你打算捐 3,500 美元且負擔得起 7,000 美元,我認為你應該捐滿。
(請注意,即使你認為捐款價值中只有例如 30% 是展現競選實力,此邏輯依然成立。)
如何捐款?
你可以透過 ActBlue 在此連結捐款!
如果你在 10 月 20 日捐款:建議使用 ActBlue(信用卡、Paypal、Venmo、Google Pay)。 雖然 ActBlue 捐款是即時的,但直接匯入競選帳戶的支票和電匯可能需要超過 24 小時才能收到。
如果你在 10 月 20 日之後捐款:可以透過 ActBlue,或考慮銀行轉帳。 這是因為 ActBlue(捐款處理商)會收取 4% 的手續費:如果你捐贈 7,000 美元,Bores 競選團隊收到的金額會減少 280 美元。如果你想了解如何操作,請隨時寄電子郵件給我!
我的捐款會公開嗎?對職業生涯有什麼影響?
是的:捐款是公開紀錄。 你在做決定時應考慮到這一點。現任政府一直在非法地在某些職位的招聘中使用意識形態/忠誠度測試(例如拒絕那些表示拜登贏得 2020 年大選的人)。我猜測他們在某些職位上也會根據政治捐款進行歧視。因此,如果你認為自己未來可能想在聯邦政府任職,且目前還沒有近期捐款給民主黨的紀錄,你應該考慮到這一點。
風險有多大?我目前的理解(可能錯誤)是:
- 如果你已經有大量或近期的民主黨捐款紀錄,你已經支付了大部分代價。
- 如果你沒有近期捐款紀錄,且強烈考慮在未來幾年內進入聯邦政府工作,有實際機會獲得該職位,並且認為自己會比替代人選優秀得多,那麼你可能應該避免捐款。
對於大多數在過去幾年未曾捐款給民主黨的 AI 安全或(特別是)AI 政策研究員來說,小額捐款(如 250 美元)不值得耗費職業資本。因此,如果你從事 AI 安全工作,除非你捐很多,或者你已經有近期捐款給民主黨的紀錄,否則請三思。
[補充:我剛得知一些關於個人資訊透過政治捐款洩露的潛在擔憂。我預計這對絕大多數人來說不是問題;然而,如果你特別擔心隱私,歡迎聯繫我聊聊。]
在你的情況下,捐款值得職業資本代價嗎?
如果你覺得難以抉擇,這裡有幾種方法可以幫助你判斷:
- 查看下方的「捐款者概況」部分,其中提供了一些捐款者概況的例子,以及我對他們是否適合捐款的主觀意見。
- 查看這篇文章,其中有一份問卷,包含「你有安全許可嗎?+4」和「你在大型 AI 實驗室工作過至少 2 年嗎?+1」等項目。如果你的總分至少為 11 分,該文建議避免捐款。(註:我尚未非常仔細地審核該文,但總體看來是合理的。)
- 查看下方的「更定量的成本效益分析」部分。(我建議本文的大多數讀者跳過這部分。)
一些潛在捐款者概況的例子
在本節中,我將提供一些假設的 Alex Bores 潛在捐款者例子,並給出我對他們——從利他主義角度——捐贈 7,000 美元給 Bores 是否合理的評估。(註:這些是我的最佳猜測,可能會修正。)
(我加粗了「從利他主義角度」,因為無法獲得工作當然會有個人成本。我將由讀者自行衡量。)
技術性 AI 安全研究員
-
概況 1a:Alice 是 AI 公司或 AI 安全非營利組織的技術研究員。她不是安全團隊負責人。她認為自己進入政府的可能性不大,但認為仍有機會(例如如果實驗室被國有化)。她以前從未捐款給民主黨。
我的猜測是,對 Alice 來說,捐款給 Alex Bores 和類似機會在利他主義上是最佳選擇。 -
概況 1b:與 1a 相同,但 Alice 正在考慮辭去目前的工作,搬到華盛頓特區從事 AI 政策工作。
- 如果 Alice 只是模糊地考慮這個選項:她可能應該捐款。
- 如果 Alice 強烈考慮這個選項,且專門尋找聯邦政府的職位:她可能不應該捐款。
-
概況 1c:與 1a 相同,但 Alice 是一個重要安全團隊的負責人。
我認為這個案例處於邊緣狀態,可能取決於 Alice 的具體情況。 -
概況 1d:與 1c 相同,但 Alice 在 2022 年曾向一位民主黨國會候選人捐贈了 1,000 美元。
我認為 Alice 應該捐款:我的猜測是,Alice 2022 年的捐款意味著她已經支付了作為一名相當一致的民主黨捐款者的大部分職業資本成本。
AI 政策研究員
-
概況 2a:Bob 是華盛頓特區的一名初級 AI 政策研究員。他剛大學畢業幾年,在一家無黨派智庫工作,研究 AI 政策。他認為 AI 政策很適合他的技能,並預計會繼續從事此工作。他並非專門考慮聯邦政府的職位,但認為未來幾年很有可能想去那裡工作。Bob 並非強烈的黨派支持者,以前從未捐款給政治候選人。
我認為 Bob 可能不應該捐款。 -
概況 2b:與 2a 相同,但 Bob 強烈反對川普政府的行動,並發現在一個許多人都支持他所反對行動的環境中工作很有挑戰性。
我認為 Bob 應該捐款給 Alex Bores。因為 Bob 不太可能適合川普領導下的聯邦政府政策職位。 -
概況 2c:與 2a 相同,但 Bob 已經有一些近期的小額民主黨捐款紀錄。
我認為這個案例處於邊緣狀態,因為 Bob 已經支付了部分但非全部的捐款成本。 -
概況 2d:與 2c 相同(近期有小額民主黨捐款),但 Bob 已經有幾年經驗,在智庫中相當資深,且看到未來幾年申請聯邦政府工作的現實前景。
我認為 Bob 不應該捐款。
更定量的成本效益分析
下方的成本效益分析將讓你決定兩個參數:
- p:你未來想要嘗試獲得聯邦政府工作的機率。
- r:你在政府工作對世界的益處,佔 Alex Bores 當選益處的比例。(我意識到估計 r 對某些讀者來說可能很反感;如果是這樣,我建議你根據上方的「捐款者概況」或這篇文章來做決定。)
假設你近期沒有任何民主黨捐款紀錄。那麼我認為從利他主義的角度來看,捐贈 7,000 美元給 Bores(以及未來捐贈給類似機會)是值得的,如果:
- 對於技術性 AI 安全研究員:p * r < 2%
- 對於 AI 治理研究員:p * r < 1%
治理研究員的門檻較低,反映了我預計政策職位在捐款方面的歧視會比技術職位更嚴重。
(如果你是小額捐款者,門檻應按比例縮放:例如,捐款金額減半的 AI 安全研究員只有在 p * r < 1% 時才應捐款。)
我的猜測是,對於典型的技術性 AI 安全研究員,p 約為 5-10%,r 約為 1-3%。即使假設較高的數字,我們也只得到 p * r = 0.3%。(因此,從利他主義的角度來看,我認為捐款給 Alex Bores 對大多數技術性 AI 安全研究員來說可能是正確的選擇。)與此同時,對於 AI 治理研究員來說,這通常會是一個更接近邊緣的決定。
我將計算細節放在此附錄中。我建議你閱讀我的計算過程,看看是否合理。我對此非常不確定,我真的不希望我的分析因為錯誤的假設而產生不利後果。
潛在擔憂
如果 Bores 輸了怎麼辦?
如前所述,Bores 目前並非這場競選的大熱門,儘管我認為他有不錯的勝算。我希望捐款者注意到這一點,並非因為這直接影響捐款的成本效益,而是考慮到捐款者在捐出 7,000 美元後看到 Bores 落敗時的感受。
因此我想向潛在捐款者強調,Bores 實際上被視為弱勢方。我認為儘管如此,捐款給他仍然值得。但如果你可能會因為大額捐款後看到他落敗而感到受挫——以至於影響你未來資助類似競選活動的可能性——那麼我認為這值得納入考量。
媒體報導如何?
總體而言,我預計如果 Bores 籌集到大量資金,這將產生實質性的正面媒體報導。這並不是說所有報導都會是正面的;我希望潛在捐款者意識到這一點。
我認為媒體很可能會對 Bores 與 AI 安全的聯繫進行一些毫無根據的攻擊。雖然存在一些尾部風險,但我猜測這對他來說基本上沒問題。在爭取 RAISE 法案期間,Bores 熟練地應對了與大型科技公司的公開鬥爭,且並未迴避他對減輕 AI 生存風險的支持。我相信他已為潛在的不公平媒體報導做好了準備,並會採取類似的應對方式。總體而言,這些考量並未改變我的核心觀點。
感到倉促?
如果你今天(10 月 20 日星期一)才第一次聽說 Alex Bores,那麼你可能會感到被催促在未完全了解情況和進行盡職調查的情況下做出捐款決定。
我很抱歉。我明白要求人們在接觸到捐款機會的同一天就決定捐出 7,000 美元是一個巨大且不公平的要求。
如果你覺得今天有能力花時間弄清楚是否要捐款,我鼓勵你這樣做。如果你想在捐款前與我(或其他人)聊聊,請隨時寄電子郵件給我,我會盡力在今天找時間與你交談!
但如果你覺得今天無法充分評估這個機會,那麼我建議延後捐款。 是的,我認為你的捐款效果會降低約 20%。然而,我認為維持「讓人們仔細思考並獨立判斷捐款」的規範非常重要。而且我認為 10 月 20 日之後的捐款仍然非常有價值,且仍是我所知最好的捐款機會。
附錄
捐款給 Bores 的成本效益分析細節
Bores 以小於 1,000 票之差落敗的機率
Bores 正在競選紐約州第 12 國會選區。這是一個穩固的民主黨席位,這意味著 Bores 只要贏得民主黨初選就能贏得選舉。Bores 以小於 1,000 票之差落敗的機率基本上取決於初選的激烈程度,因此我們需要了解競選動態。
州眾議員 Micah Lasher 和市議員 Erik Bottcher 也在競選該席位。我認為這場競選很可能會吸引其他知名候選人,例如 Jack Schlossberg(約翰·甘迺迪的外孫)。這會降低 Bores 的勝算,但我認為這不會實質影響成本效益分析,^([9]) 因此我假設只有這三位候選人。
我猜測 Lasher 比 Bores 更有可能贏得席位,因為他曾任紐約州長 Kathy Hochul 的政策總監,也是現任該區眾議員 Jerry Nadler(即將退休)的助手。據《紐約時報》報導,Nadler 很可能背書 Lasher。這些將是選民非常看重的重要背書。(我認為 Bores 的勝算約為 20%,而 Lasher 約為 50-60%。)
另一方面,我預計 Alex Bores 會獲得相當數量的背書。Bores 被認為是一位異常高效的立法者,贏得了議會同事的尊重。他還與勞工工會有著密切聯繫,工會的背書對選民來說非常重要。
Bottcher 在紙面上似乎是較弱的候選人(儘管我預計他會獲得一些 LGBT 團體的背書),但我不認為可以忽視他。
如果你強迫我猜測每位候選人的得票率(而非勝選機率!),我會猜:Lasher 35%、Bores 25%、Bottcher 15%,其餘 25% 分散在其他候選人中。但當然存在巨大的不確定性。在這樣的競選中,獲勝者以不到 1% 的優勢獲勝並不奇怪,以 30% 的優勢獲勝也不奇怪。一個非常簡單的模型(僅用於初步估計)可能是:勝差在 0% 到 30% 之間均勻分佈;假設勝差小於 1%,有 2/3 的機會 Alex Bores 是前兩名之一;在這種情況下,有 50% 的機會他以微弱差距落敗(而非微弱差距獲勝)。這將得出 Bores 以小於 1% 之差落敗的機率為 1/90。
我進行了一些稍微複雜(但仍屬粗略)的統計建模,顯示 Bores 以小於 1% 之差落敗的機率為 1.45%(詳見腳註);^([10]) 1.45% 是我綜合考量後的猜測。
根據歷史數據,我預計初選約有 90,000 票。這意味著 1,000 票約佔 1.1%;因此這得出 Bores 以小於 1,000 票之差落敗的機率約為 1.6%。
多少邊際資金能為 Bores 增加一張選票?
這是最難估計的部分。但我通常使用的啟發式方法是,在一個未獲得大量媒體關注的初選中,競選團隊每花費 100 美元的邊際廣告和傳單費用,^([11]) 就能吸引多一位選民的支持。^([12]) 對於這場競選,我將其增加三倍至 300 美元,原因有二:
- 我預計這將是一場比大多數競選資金更充裕的比賽,因為 Bores 的選民是美國最富有的人群之一(曼哈頓上東區居民)。競選團隊的第 300 萬美元價值低於第 100 萬美元。
- 紐約是一個投放電視廣告異常昂貴的地方,^([13]) 因此每一美元換取的價值較低。
這 100 美元的數字從何而來?抱歉,我沒有確切來源。大多數線上來源提供的數字顯然過於樂觀。這 100 美元來自於:
- 思考國會初選通常花費多少錢,並結合我觀察政治所得出的關於廣告對競選益處的直覺。
- 參考專家隨口提到的數字。
這意味著你不應該完全信任我的數字。但我已經與一些我信任的人核對過這個數字,我猜測大多數閱讀本文的人也沒有更好的來源可以參考。
這意味著額外的 300,000 美元將使競選團隊處於更好的位置,預期能為 Alex Bores 增加 1,000 票,而(根據我之前的估計)這有 1.6% 的機會反事實地讓他贏得選舉。這將轉化為每增加 1% 的勝選機率需要 190,000 美元……但我之前聲稱在啟動日捐贈 75,000 美元就能增加 1% 的勝選機率。為什麼有差異?這是因為競選捐款的很大一部分價值在於展現實力以鞏固支持——如下所述。
早期捐款有助於鞏固支持
贏得初選最重要的因素之一是獲得選民信任的個人和團體的背書,例如國會議員、州議員和工會。籌集大量資金對此目標非常有幫助:政治人物和工會更有可能背書他們認為有競爭力的候選人,特別是如果他們很可能獲勝。這是因為如果背書給了沒有勝算的候選人,背書就被「浪費」了,而且與當選官員保持良好關係也很有用(因此背書一個隨後獲勝的人是有價值的)。此外,如果候選人早期籌集到大量資金,其他潛在候選人可能會決定不參選。
從與政治運作人員的交談中,我的感覺是,基於此原因,早期捐贈的資金被認為比後期捐贈的資金價值高得多。我很難給出一個確切的倍數,但我的方法基本上是:
- 採用我從政治運作人員那裡聽到的典型數字(通常在 2 倍到 4 倍之間)。
- 選擇該範圍的低端(因為政治運作人員有動機說服人們現在捐款比以後捐款更緊迫)。
我認為啟動日捐贈的資金比稍後捐贈的更有用,因為競選團隊通常會發布新聞稿宣布第一天的籌款額。我的感覺是這些新聞稿實際上相當重要。因此,我決定對 2025 年底前捐贈的資金給予 2 倍乘數,^([14]) 對第一天捐贈的資金給予 2.5 倍乘數。
因此,我們需要將 210,000 美元分別除以 2 和 2.5,來估計啟動日和 2025 年稍後捐贈的成本效益。這分別得出約 7.5 萬美元和 9.5 萬美元。
最後一項調整:大型科技公司超級政治行動委員會
Alex Bores 籌集得越多,大型科技公司超級政治行動委員會介入的可能性就越大,我們也應預期它會花更多錢試圖擊敗他。
我對這裡的動態了解不深,但我猜測:
- 即使他籌款很少,超級政治行動委員會也有 80% 的機率介入。
- 如果 Bores 在啟動日多籌集 100 萬美元,超級政治行動委員會介入的機率會額外增加 5%。
在那些 80% 的世界中,超級政治行動委員會可能會多花幾十萬美元(假設 30 萬美元),但請注意,超級政治行動委員會的支出效果較低(可能低 4 倍),因為其支出缺乏信號價值(用於獲得背書等),且超級政治行動委員會不能與競選團隊協調支出。總體而言,這項考量使捐款給 Bores 的有效性降低了約 6%。
在那些 5% 的世界中,超級政治行動委員會可能會在競選中花費約 200 萬美元。這個估計是基於親加密貨幣的超級政治行動委員會 Fairshake(該科技超級政治行動委員會以此為模型)在 2024 年國會競選中的支出金額。同樣,我們應該除以 4 左右的係數。總體而言,這項考量使捐款給 Bores 的有效性降低了約 2.5%,總計 8.5%。
其他幾項考量:
- 在 Bores 身上的支出會抵銷其他超級政治行動委員會的支出機會,這表明上述 8.5% 的數字(略微)高估了。
- 但同時,如果 Bores 輸了競選,這對超級政治行動委員會來說是好事(有些人會將其視為應該害怕超級政治行動委員會支出的證據)。雖然如果 Bores 贏了競選,這對超級政治行動委員會來說非常糟糕,因為 Bores 被視為弱勢方(Micah Lasher 被視為熱門人選)。總體而言,我猜測這是一個微弱到中度的考量,傾向於認為上述 8.5% 的數字被低估了。
綜合考慮所有因素,我猜測大型科技公司超級政治行動委員會使捐款給 Alex Bores 的有效性降低了約 10%。
將我們之前的數字乘以 10/9,得出約 8.5 萬美元和 10.5 萬美元——這些是我的最終估計。
捐款給 Bores 與職業負面影響的成本效益分析
我將所有單位換算為 milliBoreses (mB),其定義為使 Bores 當選機率增加 0.1% 所產生的善行量。
捐款的慈善效益
- 如果你計劃在啟動日捐贈 7,000 美元,根據上述數字,其效果為 +0.7 mB。
但請注意,我預計未來會偶爾(雖然罕見)出現類似機會。如果你對政治捐款的門檻大約設定在 Bores 的水平或稍低,我預計捐款給此類機會的總影響力大約是僅捐款給 Bores 的 3 倍。 - 因此,如果你遵循「向安全導向的政治候選人大量捐款,但僅限於最優秀的候選人」的政策,該政策的效果約為 +2 mB。
- (由於我認為非政治捐款機會遠不如政治捐款機會,我認為將這筆錢的反事實用途歸零是公平的。)
捐款的利他成本
- 一個認真追求未來政府職位的人,因為政治捐款而反事實地被拒絕錄用的機率是多少?
「未來」可能指 2025-2028 年,或 2028 年之後(屆時我們將有不同的總統政府)。總體而言,我認為有 50% 的機率會出現一個根據政治捐款進行歧視的總統政府。 - 在此前提下,我認為對於技術研究員,捐款有 20% 的機率會反事實地阻止你被錄用;對於治理研究員,機率為 40%。(有可能你本來就會被拒絕,例如因為資歷不足或政治性的社交媒體貼文;也有可能你的捐款被忽視,你仍然被錄用。)
- 因此總體而言,技術研究員的機率為 10%。如果你是治理研究員,我們最後再乘以 2。
- 你想要追求政府職位的機率是多少?這因人而異;我們稱之為 p。(我認為對於典型的安全研究員,p 大約是 5% 或 10%?)
- 你在政府工作與 Alex Bores 當選相比有多好?我們稱之為 r。(因此,你在政府工作的價值是 1000*r mB。)(我認為對於典型的安全研究員,r 大約是 2%?)
- 將這些相乘,我們發現你捐款的職業成本是 10% * p * 1000r mB = 100pr mB。
成本效益分析
因此,如果對於技術研究員 pr < 2%,那麼捐款在慈善上是划算的。我認為這對大多數(但非所有)技術性 AI 安全研究員來說是成立的。如上所述,我認為對於典型的 AI 安全研究員,pr 更接近 0.1% 或 0.2%。
另一方面,治理研究員的門檻是 p*r < 1%,而對於典型的治理研究員來說,p 可能高得多。因此我認為對於典型的 AI 治理研究員來說,捐款是一個相當接近邊緣的決定。請考慮使用這篇文章來權衡成本與效益。
警示
- 如果你捐款遠少於 7,000 美元(例如僅捐 500 美元),成本效益分析可能會反轉!因為你捐款的慈善效益會按比例減少。
- 反之:有些優秀的政治捐款機會每年可以吸收每人數十萬美元。(如果你想了解更多,請私訊/電郵我。)如果你有興趣成為一名真正的巨額捐款者,那麼在我看來,除了極少數人外,捐款的職業成本在利他主義上都是值得的。
- 可能出現的 AGI 曼哈頓計劃如何影響這一切?我認為如果有 AGI 曼哈頓計劃,那麼大多數研究員的 p 會大幅上升,但 r 會非常低,因為曼哈頓計劃中會有大量人員,引導方向會很困難。因此我不認為這會實質改變計算結果。(我也認為 2029 年前不太可能出現 AGI 曼哈頓計劃,儘管有些人不同意。)
- ^(^) 該法案最終在州長與議會談判後被削弱是有可能的。不過,我對該過程了解不多。
- ^(^) Alex Bores 在第一年通過的法案比任何第一年議員都多,第二年通過的法案也比任何第二年議員都多。
- ^(^) 預算信函是立法者正式要求將資金加入州預算的程序。
- ^(^) 在實踐中,這主要表現為:花費 300-350 美元說服某人投票給 Bores 而非其他候選人(如果該候選人是以小於 1,000 票之差擊敗 Bores 的人,那麼這具有雙倍價值)。
- ^(^) 需要澄清的是,我並不是在聲稱「給 Bores 競選團隊 850 萬美元就能讓他贏得選舉」。我只是在討論邊際美元的效果。同樣地,如果你可以用 85,000 美元做另一件無法規模化的好事,我們仍然需要將 100 倍的(那件事)所做的善行與選出 Bores 所做的善行進行比較。
- ^(^) 請注意,我在得知 Scott Wiener 可能參選之前就寫了這段話的版本!因此我不認為我受到了這則新聞時效性的偏見影響;我認為巧合的是,我們將在幾天/幾週內迎來兩個絕佳的捐款機會。
- ^(^) 一些綠卡持有者向我表達了擔憂,擔心捐款可能會影響他們的移民/入籍。川普政府的違法行為確實令我震驚;儘管如此,我認為川普政府目前還不至於厚顏無恥到系統性地因為政治捐款而拒絕人們入籍。但我不能完全排除這種可能性;我認為捐款給民主黨可能有 1-2% 的機率導致某人無法成為公民。在那些世界中,美國看起來會比現在更像一個獨裁國家。
- ^(^) 這與我「早期捐款比只能用於廣告的後期捐款價值高 2-2.5 倍」的數字一致:2 倍意味著 50% 的價值在於信號,2.5 倍意味著 60% 在於信號。
- ^(^) 一方面,這會增加前兩名候選人票數差距很小的機率。另一方面,它降低了 Bores 成為前兩名候選人之一的機率。我認為這兩者大致抵銷。
- ^(^) 我對 (Lasher, Bores, Bottcher, 「分散在其他候選人」) 的得票份額使用了參數為 (3.5, 2.5, 1.5, 2.5) 的狄利克雷分佈 (Dirichlet distribution)。這些數值給出了與我上方提供的平均得票百分比一致的結果,且似乎具有正確的不確定性。然後我檢查了 Bores 落敗但差距小於 1% 的頻率;這大約發生在 1.45% 的時間。這對模型參數的變動(在合理範圍內)並不十分敏感。
- ^(^) 雖然對於競選團隊籌集的前 10 萬美元有更有效的資金用途,但我預計 Bores 籌集的資金會遠超於此,且他的邊際美元將用於廣告。
- ^(^) 在實踐中,這更像是「說服 0.6 個人投票給你而非其他人」,因為不會有很多人僅僅因為看了你的廣告就反事實地出來投票。但這與讓一個額外的人投票給你(而非不投票)效果差不多,因為你很可能從除了你之外得票最多的人那裡爭取到選票。
- ^(^) 快速的 Google 搜索顯示紐約的電視廣告貴了 10 倍。然而,我的猜測是在實踐中這意味著最有效的資金用途是其他類型的廣告(非電視廣告)。因此 2 倍是我對正確乘數的最佳估計,但這可能會有顯著誤差。
- ^(^) 在 2025 年 12 月 31 日捐款比在 2026 年 1 月 1 日捐款好得多,因為競選團隊會報告每季度的籌款額,並很大程度上根據第一季度的籌款額來被評判。
相關文章