你會沒事的

看到這篇貼文及其評論，讓我對這個社群的年輕人感到有些擔憂。我想試著寫下為什麼我相信大多數在這裡閱讀和寫作的人（通常既聰明、有愛心且知識淵博）都會沒事的。

我同意我們的社會往往對尾端風險（tail risks）準備不足。作為一名整體的規劃者，即使潛在災難發生的機率很小，你也應該為此擔憂。然而，作為一個個體，如果存在某個超出你控制範圍的毀滅機率 X，最好的做法是專注於你所能控制的那 1-X 的機率空間，而不是不斷地為之焦慮。一代美國人和俄羅斯人在全面核戰風險不低的情況下長大，他們依然照常生活。即使我們對某些極壞結果的發生確實有一定的控制力（例如交通事故），最好的做法是遵循一些常識性的最佳實踐（繫好安全帶、不騎摩托車），然後就把它拋諸腦後。

我不想在這裡參與關於 P[doom]（毀滅機率）的常規辯論。但正如只要這個機率不為 0，公司和社會去擔憂它就絕對有意義一樣；只要這個機率不為 1，個人將大部分時間花在不擔心它上面也是有意義的。即使你的工作是降低這個機率（在某種程度上這也是我的工作），無論是為了你的心理健康還是為了把工作做好，最好都不要把所有時間都花在擔心這件事上。

我想承認，無論是否毀滅，AI 都將帶來非常快速且巨大的變革。很有可能在某些指標上，我們會看到幾個世紀的進步被壓縮到幾十年內。我個人的預期是，正如我們目前所見，進步將是連續且參差不齊的。AI 的能力及其普及程度都將持續增長，但在不同領域的速度會有所不同。（例如，如果我們在顯著減少在舊金山建築所需的官僚程序之前，就先治癒了癌症，我也不會感到驚訝。）我相信由於這種連續的進步，AGI（通用人工智慧）或 ASI（超級人工智慧）都不會是離散的時間點。相反，就像我們總是在經濟衰退發生後才定義它一樣，我們可能會在「AGI 時刻」發生半年或一年後，才回溯性地確定它。我也相信，由於這種「參差性」，人類，尤其是聰明且有愛心的人類，至少還會被需要幾十年甚至更久。這是一場馬拉松，而不是短跑。

除了字面意義上的毀滅，人們對 AI 還有許多合理的恐懼。我無法完全想像 AI 將如何在經濟、社會、政治和物理層面改變世界。然而，我預計就像工業革命一樣，即使在這種變革之後，對於它是好是壞也不會達成共識。我們人類擁有令人印象深刻的動態範圍。我們可以生活在最惡劣的條件下，也可以對最好的條件抱怨。有可能我們治癒了疾病和貧困，但人們仍然會懷念 2020 年代那段「美好的舊時光」，那時年輕人還能在保證收入和住房毀掉一切之前，體驗自食其力的刺激感。

我不想淡化風險。未來的發展也有可能比我憤世嫉俗的眼光所見還要糟糕得多。或許我致力於技術對齊（technical alignment）的主要原因，是因為它既重要，而我也樂觀地認為它（在很大程度上）是可以解決的。但我們還沒有解決對齊問題，雖然我確信其重要性，但我的樂觀也可能是錯的。此外，正如我之前所寫，即使我們「解決了對齊問題」，仍有多種糟糕的情況可能發生。

這篇文章並非為了鼓勵懈怠。所謂「願你生活在有趣的時代」被（偽託地）稱為詛咒是有原因的。我們正進入未知的領域，未來的幾十年很可能是人類歷史上最重要的時期之一。事實上，這是一個身為年輕、聰明、有動力且具備善意的人的大好時機。

你可能不同意我的預測。事實上，你應該不同意我的預測，我自己對這些預測也深感不確定。此外，「不要相信中年教授的話」這一啟發式原則從未像現在這樣適用。你可以也應該要求政府和公司（包括我自己的公司）承擔起為最壞情況做準備的任務。但我希望你把時間和精神能量花在積極思考和為奇異的未來做準備上。

---

關於標題的補充（2026 年 1 月 1 日）：

標題所說的「你會沒事的」，顯然並非指每一位讀者都會沒事。我也不是指有 100% 的保證 AI 對人類的影響不會是災難性的。我不信任任何保證自己知道 AI 最終結果的人。我也非常明確地陳述了我的個人信念——正如我在文章中所說，你很可能不同意我的預測，而選擇賦予這些預測多少價值是你的權利。

我所說的「你會沒事的」是指：

1. 一個預測： 我相信最可能的結果是 AI 將導致絕大多數人生活品質的巨大提升，其規模與我們現在相對於前工業時代的生活提升相當。此外，我相信，假設年輕的 LessWrong 讀者們照顧好自己的身心健康且不恐慌，他們中的許多人（可能是大多數人）都處於非常有利的位置，能夠發展得很好，既能利用 AI，也能幫助塑造它。但這只是眾多可能結果中的一個。

2. 一個工作假設： 我提議，儘管存在多種可能的結果，包括你、我和每個人都非常不妙的情況，人們仍應在「自己會沒事」的假設下過好日常生活。這不僅是因為我認為這是最可能的結果，也因為如前所述，最好不要沉溺於那些超出你控制範圍的機率空間。這對冷戰期間大多數面對全面核戰可能性的人來說是正確的，現在也是如此。

我並不是說你應該懈怠！正如我所說，這並不意味著你應該放過政府和公司（包括我自己的公司）！氣候變遷領域也有類似的動態，人們覺得如果自己不對氣候變遷抱持「極度末日論」並聲稱它將毀滅世界，就是在懈怠、無所作為。這是錯誤的，將氣候變遷視為宿命不僅對心理健康有害，會對你的生活決策產生負面影響，還可能導致錯誤的權衡。

我非常喜歡 Kelsey Piper 在我上面連結的 Substack 文章中的一段話：

我說這些並不是為了替代對世界上仍然存在的、真實且殘酷的貧困採取有意義的行動。我喜歡 Max Roser 對這些事情的格言：「世界很糟糕。世界已經好多了。世界可以變得更好。」

可以說，一個更準確的標題應該是「我相信你極有可能會沒事，且無論如何，你大部分時間都應該在這種假設下行動。」但我決定保留這個較短且不那麼完整的標題。