末日論者是對的

關於生存風險（existential risks）或其他一些人擔心的潛在變革，我偶爾會聽到一種論調，大意如下：

「我們一次又一次地看到，有些人對任何改變都感到恐懼。他們會說：『電視會摧毀人們的閱讀能力』、『咖啡館會摧毀社會秩序』、『機器會讓紡織工人失業』。嘿，蘇格拉底甚至主張書本會損害人們的記憶力。這麼多末日預言者，然而世界不僅倖存了下來，還繁榮發展。創新是一種恩賜。因此，當有人針對一項新技術高喊『停止』時，我們應該極其警惕，因為那條道路上佈滿了準末日論者的頭骨。」

為了不讓你覺得這是在立稻草人，楊立昆（Yann Le Cun）就曾將對人工智慧末日的恐懼比作對咖啡的恐懼。現在，我並不想像 Scott Alexander 那樣去批評這種論點，也不想像 Daniel Jeffries 那樣為其辯護。相反，我想指出我這個「襪子傀儡」所舉的所有例子中，一個非常有趣的現象。

那些末日論者是對的。

電視和互聯網確實摧毀了人們閱讀複雜作品的能力。咖啡館確實曾是革命的溫床，摧毀了當時的社會秩序。機器確實讓紡織工人失業了。書本確實削弱了人類精英隨興背誦史詩的能力，並普遍降低了記憶的價值。這一切都是事實。

這不僅限於技術。以性取向為例，人們曾警告說，允許同性戀將是通往各種墮落性取向的滑坡。任何讀到這篇文章的人，能真心否認從末日論者的角度來看，那些警告確實成真了嗎？

婚姻也是如此。我們讓離婚變得更容易，不再羞辱單身母親，不再將離婚家庭的孩子視為來自破碎家庭，接著我們看到離婚率飆升。從事實上看，那些對此發出警告的人難道錯了嗎？

或者，以《龍與地下城》（D&D）為例。人們曾對此產生道德恐慌，將其視為與惡魔結交的門戶。嘿，托爾金在描繪索倫戰敗後的第四紀元時，寫到了撒旦崇拜，以及「剛鐸的男孩們在玩耍時假裝成獸人」。但現在誰還會對一個身為英雄的惡魔或獸人感到驚訝呢？

滑坡謬誤的論點是正確的。

歷史上的末日論者在預測變革帶來的真實危險方面，做得比一般科幻思想家（SF-thinkboy）所假設的要好得多。

但是！他們並非「完全」正確。這當然很重要。拿上面提到的托爾金語錄來說，它隱藏了一個重要的背景，即「並到處破壞」。書本、織布機、咖啡館、電視、同性婚姻、接納單身母親和《龍與地下城》，實際上並沒有產生人們警告的所有危險，這是事實。

事實上，它們帶來了巨大的益處。多到在我看來，其淨值是值得的。如果沒有書本，我們真的哪兒也去不了（此處應有掌聲）。因此，回過頭來看，人們會抱持「新技術總是好的」這種啟發式思維並不奇怪。甚至一個貼著這種思維標籤的石頭都能成為優秀的思想領袖。你大可以有更糟的選擇。

但有兩個重要的警示。首先，注意「在我看來」的使用。古人可能會認為，在他們警告過的創新影響下，我們的生活在許多方面都變得極其貧乏。我們不再像以前那樣背誦詩歌，不再一起唱歌娛樂，孩子不再獨自漫遊，在互聯網無孔不入的注視下，我們也不再能自由起舞。更難引起共鳴的是古人對我們性偏離、隨意褻瀆神明等的悲哀。但那些是他們的價值觀。

這引出了第二點。儘管我們的祖先預言了巨大的毀滅，但確實發生了很多毀滅。我們確實順著斜坡滑了下去。

當然，他們在很多細節上都搞錯了。很多時候，人們的運作更多是基於「感覺」而非具體的發生模型。部分原因是他們的預測不僅基於內心模擬器對具體發生情況的猜測，還基於抽象的理想化推理，而這種推理自然會受到對神聖事物的遠端考慮（far-mode considerations）的干擾。因此，我們得到的不是「咖啡館會孕育叛軍」這樣的預測，而是「咖啡館會摧毀社會」。我們確實經歷了一些社會破壞，但沒有他們預期的那麼多。而我們獲得的益處，或許比他們預期的還要多。

但即便考慮到這一切，末日論者的正確程度依然令我驚訝。