我的愛好：進行瘋狂的問卷調查
我透過在 NeurIPS 會議調查參與者對 AGI 的認知，以及向美國大眾詢問關於長生不老和後稀缺社會等激進未來概念的看法，藉此探索 AI 圈子與現實世界之間的隔閡。
2024 年底，我正和幾位朋友沿著舊金山灣海岸長途散步，這時產生了一個問題：我們究竟生活在多大的同溫層（bubble）裡？眾所周知，灣區是一個同溫層，正常人不會花那麼多時間思考 AGI（通用人工智慧）之類的事情。但對於這個同溫層到底有多厚，大家仍有分歧。我提出了一個大膽的觀點：即使是在 NeurIPS（全球最大的 AI 研究人員盛會）上，也有一半的人不知道 AGI 是什麼。
作為優秀的貝氏主義者，我們同意用實證來解決這個問題：我會去 NeurIPS，在會場走動，隨機攔下人詢問 AGI 代表什麼。
令人驚訝的是，大多數我接觸的人都同意回答我的問題。^([1]) 我最後詢問了 38 個人，其中只有 63% 的人能告訴我 AGI 代表什麼。有些回答正確的人對我為什麼問這麼基礎的問題感到困惑，甚至懷疑這是不是個陷阱題。而那些不知道的人也同樣困惑，許多人只是困惑地皺起眉頭。有些人做了英勇的嘗試——我聽到了一些「人工生成智慧」（artificial generative intelligences），甚至是「亞馬遜通用智慧」（Amazon general intelligence）。^([2])
從我在 X（那個萬能 App）上得到的回應來看，這是一個非常令人驚訝的結果。我最終在 NeurIPS 2025 再次進行了這個實驗，樣本量更大（n=115）。^([3])
在有了第一次調查人的經驗後，我很清楚下一步是進一步走出同溫層，調查美國普通大眾。事實證明，這在某種程度上已經是一個解決了的問題。很多人關心美國普通人的想法。市場以其無限的智慧提供了一個解決方案——你只需要付錢給民調機構來運行隨機問題。
實際上不可能從所有美國人的分佈中進行抽樣。所以你會找到一些其他的近似分佈，例如所有在網路上回答民調以換取亞馬遜禮品卡的人的分佈。你問他們一千個個人資料問題，比如「你多大了」和「你賺多少錢」。然後，因為我們從美國人口普查中知道這些分佈應該是什麼樣子，你就可以使用重要性採樣（importance sampling）來修正分佈偏移。^([4])
帶著這個前提，我開始了使用其中一項民調服務向普通美國人詢問一堆奇怪問題的旅程。^([5])
我在 2025 年初運行的第一個問題是關於美國人對長生不老（或至少是活很久）的看法。我個人非常支持「不死」，所以我很好奇我的美國同胞們對此有何感想。
確切的措辭是：「如果你可以選擇在完美的健康和青春中永遠活下去，你會選擇嗎？（假設如果你覺得無聊，隨時可以改變主意。）」選項有「是」、「否」和「不確定」。
在繼續閱讀之前，請先猜測一下結果。
.
.
.
.
（不要偷看）
.
.
.
.
.
我直覺上覺得這是一個極不受歡迎的觀點；當然，許多與我討論過這些結果的人也認為這會非常不受歡迎。因此，我驚訝且欣慰地發現，實際上 66% 的受訪者說「是」，14% 說「否」，20% 說「不確定」。作為後續，事實證明大約三分之一的美國人認為開發實現壽命延長的技術應該是首要任務。^([6])
為了真正了解人們為什麼會有這樣的感覺，我還設置了開放式回答框，讓人們表達為什麼他們想（或不想）長生不老。結果很有啟發性；以下是我最喜歡的一些回答：
「我想大概是為了看著我的孩子和孫子長大，成為誠實、善良且成功的人。」
「活得夠久，可以訪問所有國家，了解各種文明和文化，實踐所有宗教的儀式，並體驗各種工作。」
「我最興奮的是不會失去我愛的人，這意味著不再為死去的親人流淚，因為他們現在將永遠活著。」
「我最興奮的是看到 100 年後的技術進步。會不會有飛行汽車，或者能把我傳送到地球上的任何地方，等等。」
「如果我能永遠活下去，我會和我的狗 Jersey 玩。我希望我們能有一個共和黨政府，擺脫民主黨，因為他們正在毀掉我們的國家。他們是馬克思主義者，全球主義者也需要滾蛋，還有比爾·蓋茲。如果我們能永遠活下去，世界會更快樂。雖然這不可能，但沒錯。而且我會讀完世界上所有的書。」
當然，並非每個人都對長生不老持樂觀態度。以下是人們擔心的一些事情：
「我們如何應對人口過剩？環境將難以支撐一個沒有制衡的人口。」
「上帝創造會死的人是有原因的。我們不是上帝，需要停止表現得像上帝一樣。」
「如果人們能永遠活下去，主要的擔憂之一是停滯的可能性——無論是個人還是社會。在個人層面上，永生的概念可能會隨著時間的推移導致乏味感或無意義感。[……]」
「我會擔心只有超級富豪才能擁有更長的壽命。他們並不總是我們當中最優秀、最慷慨、最人道、最聰明的人。」
既然人口過剩和不平等似乎是人們擔心的主要問題，我還詢問了一個假設這些問題已得到解決的版本。令人驚訝的是，這幾乎沒有改變人們的看法，我們得到了幾乎完全相同的回應！我的猜測是，這表明真正的反對更多是關於「感覺」（vibes），而不是任何具體問題。這也清醒地提醒了我們這種方法論的局限性。
在這個實驗的結果出來後，我決定測試一堆其他隨機的奇怪信仰。如果你想在看到結果之前猜測一下（或者你好奇確切的措辭是什麼，因為這會大幅改變結果），點擊這裡查看我在繼續向下滾動之前運行的所有問題。如果你願意在繼續閱讀本文之前花很多時間看這一大堆問題，這確實是測試你校準能力的好方法。
.
.
.
.
.
.
.
首先，儘管非常支持長生不老，美國人對人體冷凍技術（cryonics）要懷疑得多——即使他們可以在死後幾十年復甦並從此永遠活下去，也只有 27% 的人贊成被保存，46% 的人反對（其餘人不確定）。太空殖民的支持度也相當平淡，37% 贊成，16% 反對；全民認知增強（cognitive enhancement）只稍微受歡迎一點（42% 贊成，19% 反對）。此外，出於某種原因，人們非常反對假設中廉價、無痛且安全的任意身體外觀修改（只有 23% 贊成，37% 反對！）。^([7]) 回想起來，對 Ozempic 的抵制是一個信號，但我仍然感到相當驚訝。將其他行星地球化以供人類居住也相當不受歡迎，37% 贊成，16% 反對。值得慶幸的是，對於大多數這些問題，很大一部分人仍未決定。
對我來說最令人驚訝的結果之一是，只有 51% 的美國人贊成字面意義上的「後稀缺」（post-scarcity，完全自由地從事任何你想做的工作，想做多久就做多久，且仍能享受高品質生活），25% 的人反對。我對這個結果竟然沒有 80% 以上的贊成感到非常震驚，以至於我用不同的措辭重新運行了這個問題的一個變體。我最初的問題是問：如果每個人都有自由從事任何他們想做的工作，想做多久就做多久，且仍能享受高品質生活，而任何我們不想做的事情都由機器人為我們完成，世界會變得更好還是更糟。我想也許這觸發了一些「人工智慧搶走工作不好」的直覺；對於新問題，我費力地澄清這些東西字面上是憑空變出來的魔法，不是從別人那裡拿走的，結果得到了更糟的結果（38% 支持，34% 反對）。這更瘋狂了，所以我運行了第三個版本，假設人們不喜歡魔法，或者不用工作聽起來太瘋狂。這個版本詢問：如果每個人的收入都比現在多 10 倍（經通貨膨脹調整）是否是好事。這個民調結果稍微好一點，39% 贊成，19% 反對。我仍然很困惑該從中得出什麼結論；這可能值得進一步挖掘。
回到開啟這趟探索的最初問題，我必須知道：美國人對 AGI 的感受如何？我當然可以問美國人是否知道 AGI 代表什麼，但早期在空間和時間上遠離 NeurIPS 的街頭隨機詢問結果顯示，這個數字會趨近於 0%。所以更有趣的問題是：給定超人類 AI 的描述，美國人認為這可能嗎？
事實證明，當我在 2025 年年中第一次運行這項民調時，只有 25% 的人認為 AGI 有可能實現。在正常人的時間裡那只是半年前，但在 AI 領域那是一段難以想像的漫長時間，足以讓帝國興衰、模型部署又被淘汰，甚至讓一整個機器學習會議的審稿週期跑完。從那以後，更多的美國人開始感受到 AGI；最近重新運行的這個問題結果上升了 10 個百分點，達到 35%。半年後我們再見，看看後續。
但我們應該建造 AGI 嗎？事實證明，人們極其反對建造超智慧 AI 的想法。只有 6% 的人認為這是一個好主意，75% 的人認為這是一個壞主意。我也很好奇這個數據會隨著時間如何變化。^([8])
AI 生存風險（existential risk）似乎也尚未變得政治兩極化。三分之二的美國人不將 AI 生存風險與任何特定政黨聯繫起來，剩下的三分之一在預防 AI 生存風險感覺像是民主黨還是共和黨議題上正好對半分。如果我們繪製這些數據，我們會得到這個科學界尚未命名的不尋常形狀：
至於來自 AI 的具體風險，美國人最擔心的是虛假訊息和深度偽造（70%），其次是詐騙和網路犯罪（66%），以及隱私和監控（59%）。令人驚訝的是，人們對失去對 AI 控制的擔憂（57%）與對失業和工資降低的擔憂（56%）大致相當！我原以為失業會讓人感覺迫在眉睫，而失去控制對人們來說會是一個非常奇怪且抽象的想法。從那裡到下一個最大的擔憂有很大的落差：軍事用途（37%）、心理健康（35%）、環境影響（38%）、偏見（36%）和不平等（36%）。我的猜測是因為虛假訊息和深度偽造讓人感覺非常直觀——假新聞是一個廣泛傳播的概念，你不需要成為 AI 專家也能注意到現在網路的大部分內容都充滿了 AI 生成的垃圾。
也有少數人在「其他」框中填寫了他們擔心的具體風險。我最喜歡的回應是對反抗超人類 AI 有多麼絕望的驚人準確描述：
你如何躲避一個比人類更聰明且能看穿牆壁等的機器人？你躲不掉的。
我也是，兄弟。我也是。
如果涉及 AI 以外的領域呢？美妙之處在於你可以隨便問任何你想問的問題。^([9])
首先，從更廣泛的角度來看，美國人對未來非常悲觀。只有 14% 的人認為社會目前正朝著積極的方向發展。
在較為光明的一面，我成功反駁了一個關於美國人如何無法通過針對英語學習者的英語測試的瘋狂點擊誘餌 TikTok 影片。我很自豪地發現，我的美國同胞中有整整 85% 的人答對了那個 TikTok 影片中的問題。
因為我們家熱愛決策論，我寫了一個解釋紐康姆難題（Newcomb’s problem）的問題，並詢問是選擇「拿一個盒子」還是「拿兩個盒子」。美國人在這個問題上分歧相當大；在沒有選擇「不確定」的受訪者中（老實說，這也算合理），只有 46% 會選擇拿一個盒子。這與專業哲學家幾乎完全相同，根據 PhilPapers 進行的一項調查，44% 的哲學家贊成拿一個盒子。
我也很好奇在舊金山成名的人在普通人中是否也出名。事實證明，36% 的美國人知道 Sam Altman 是誰，並能正確說出他以企業家身份聞名。另外 59% 的人沒聽說過他或不知道他以什麼聞名。值得一提的是剩下的 5%，他們認為 Sam 是音樂家、演員或國會議員。同樣的方法發現，只有 7% 的美國人知道 Geoffrey Hinton 是誰，而 91% 的美國人知道 Elon Musk 是誰。
我曾參與過一場關於實驗室培育肉是否會被廣泛採用的討論，所以我問了一個問題：如果我們能以某種方式直接培育肉類，而不需要飼養和屠宰動物，這是否是一件好事。結果顯示 32% 的美國人贊成，29% 反對。當限定在那些認為肉類生產涉及讓大量動物遭受非人道待遇的 55% 的人中時，支持率傾斜至 44%，反對率為 21%。我只運行了相關性研究，因為這容易得多，但我很有興趣看看在向人們展示關於工廠化農場的教育影片後，對實驗室培育肉的支持是否會有因果性的結果。
最後，為了好玩：
遺憾的是，只有 32% 的人答對了。相比之下，42% 的人認為答案是 X Combinator，只有 6% 的人選擇了 W Combinator。Elon，如果你正在讀這篇文章，我有一個很棒的商業點子給你。^([10])
我們從這一切中學到了什麼？
首先，「接觸草地」（touching grass，指接觸現實世界）是很棒的。至少，是那種生長在美麗的網路空間丘陵上的草。^([11])
我這是什麼意思？與現實接觸很重要，當你可以測試它們時（要小心地），你就不需要對事情進行猜測。民調感覺像是只有嚴肅體面的人才會做的事情，但實際上你也可以直接去做。當然，這種方法論有很多局限性——我們所有人的陳述偏好和真實偏好之間都有分歧；我們自己對在各種假設情況下會如何表現的猜測，可能無法可靠地預測我們實際會怎麼做；措辭可能對我們如何回應產生巨大影響；而且受訪者可能會在耍我們。但只要我們記住這些局限性，我們仍然可以得出有用的結論，並了解關於世界的新事物。
-
^(^)這一個實驗單槍匹馬地減少了我不少社交焦慮。事實證明，大多數人都很友善！
-
^(^)我也確保在收集數據時身邊有另一個人，並注意到根據我身邊的人是誰，回應的熱情程度有相當大的差異。
-
^(^)我還在 ICLR 2025 進行了一個較小規模的 p(doom) 調查（n=21），發現平均值為 18.7%，中位數為 10%。
-
^(^)總的來說，我對控制變量持懷疑態度，但這比軼事證據好得多。為了好玩，我確實對現實生活中的隨機人員進行了一些調查（例如詢問走過中央公園的人），但從未進行過大規模調查。
-
^(^)遺憾的是，我使用的特定民調機構的服務條款禁止我發布與其名稱相關的平台結果；大概他們不希望任何人在不為企業級支付大筆資金的情況下利用他們的聲譽。我試過發郵件給他們想支付更多費用升級到企業級，但我從未收到回覆。所以我不會提到我使用了哪家民調機構，你得相信我沒有憑空捏造這些數字。
-
^(^)確切措辭是「開發大幅延長健康青春壽命的技術是否應該成為人類的首要任務？」。35% 說「是」，35% 說「否」，30% 說「不確定」。
-
^(^)我實際上運行了這個問題的兩個變體，一個是我特別強調你可以讓自己看起來像某個名人（以幫助使想法更具體），另一個是我只提到了一些抽象特徵，如身高、體型和面部特徵，結果彼此相差不到 1 個百分點。
-
^(^)我還運行了關於遞歸自我改進 AI 的這個問題的變體。在那個變體中，12% 的人認為這是一個好主意，69% 的人認為這是一個壞主意。
-
^(^)公平地說，我運行這些問題的特定民調提供商有一個審核階段，他們會拒絕運行某些問題。例如，他們對我的「你會長生不老嗎」問題中包含「你可以隨時死去」條款感到非常不滿，所以我不得不將其替換為較不直接的「你可以隨時改變主意」。但我相信你可以找到其他願意運行這些問題的提供商。
-
^(^)X (the everything combinator)。
-
^(^)我也會接觸正常的草地。