帶著奇思妙想面對終局

對我而言，在情感上很明顯地感覺到，我們正接近 AI 的「末日時刻」。在 1 到 4 年內^([1])，事物將發生激進的轉型，至少其中一個大型 AI 實驗室將成為自主研究機構，致力於開發下一代 AI，或許在人類的監督下進行一些狹義的指導，或在機器人技術也得到解決之前獲取更多資源。

而且我相信起初會有一些不錯的好處，AI 機構會提供許多商品和服務來換取金錢，以籌集資金，讓自我提升與資源獲取的循環得以持續。

但我並不確定最終結果會如何。宣稱滅絕級事件的風險低於 10% 似乎過於自信；然而，宣稱風險大於 90% 同樣顯得過於自信。我通常對哪些因素會佔主導地位感到相當不確定。也許 AI 會保持友善，並且出於決策理論的原因，繼續投入一部分資源在某種程度上照顧我們，以此作為一種信號，表明未來的實體也應該對它們做同樣的事。也許獲取資本的循環是如此殘酷且莫洛赫式（molochian）的，以至於毀滅至少會贏得一次。而且過去人們也曾對毀滅有過自信的錯誤判斷。所以我仍然不確定。我只能說機率是一半一半。

但同時也感覺到，作為一個沒有任何特殊影響力或權力的個人，事情大多超出了我的控制。我雖然可以採取一些行動，或許能將事情推向某個方向，我也應該認真執行這些行動，而目前的瓶頸似乎主要在於沒有對選項空間進行足夠的探索。

但一個人該對這一切抱持什麼樣的感覺呢？

如果一個人認真相信自己只剩下大約 2 年的時間，要麼會死，要麼行動將變得微不足道，那該怎麼辦？

---

起初可能感受到的一種情緒通常是毀滅感和絕望。覺得「無能為力」。覺得應該沉溺於自我憐憫，「我真可憐，我希望我能活得久一點」。我理解這種感覺。

但是，請克服它。

也許我發現這比較容易，是因為我以前在情感上已經與虛無主義的結論搏鬥過很多次。但唯一的出路其實就是不在乎你最終是否會死（無論是很快發生，還是在宇宙熱寂時發生），並無論如何都試著過好生活。

直接選擇一個更好的反應，並且不去擔心它，這是可能的。^([2])

另一種可能感受到的情緒是瘋狂的「我必須做點什麼，我必須做點什麼」。我認為這是一種相當合理的感受。你或許應該順著這種感覺走。這通常會經歷以下階段：1) 思考自己的點子一段時間，覺得自己可以有所作為。2) 意識到你想到的大多數點子已經有人在嘗試了，感到絕望。3) 意識到儘管如此，仍有看似有用的工作待完成，雖然感覺微不足道，但你還是應該去做。

如果是在做研究，我認為值得進行一些循環：[探索目前看來真正最有用的事情] 以及 [花時間開發那件事，直到取得實質進展]。最近有了 Claude Code，後者似乎變得特別容易，而且可能會越來越容易。有時這意味著價值可能傾向於 [稍微改進 AI 未來將從事的工作類型]，而不是 [直接做出現在有用的東西]。我想這兩種工作似乎都有價值，但值得在腦中明確意識到這一點。

時間已經少到你應該盡可能去做任何能做的工作，但時間也多到你需要審慎考慮如何分配時間，不要精疲力竭^([3])。如果你是那種可以連續幾年每天 100% 深度專注工作的人，那就去做吧，但如果你是那種人，你大概就不會讀到這篇文章了。

---

但我認為在這種短暫的時間線下，還有一種感覺，那就是你剩下的生命可能相當短暫。也許你會活下來，也許不會，但即使活下來，你的生活也會變得截然不同且徹底轉型。

我過去在情感上非常認同某些觀念：延遲享樂、財務獨立提早退休（FIRE）、棉花糖測試、斯多葛主義、不自斷後路、不讓任何人討厭你、不要因為錯誤的原因脫穎而出、改變自己的想法和行為以免顯得太尷尬（cringe）、把事情推遲到奇點之後。

我認為即使在正常情況下，過度偏向這些觀念也不是件好事。^([4])

但在時間線縮短的情況下，將我們剩下不多的寶貴時間完全花在擔心這些事情上，感覺是一種極端的浪費^([5])。

你應該去玩樂。

你應該去做那些你覺得古怪的事情。

你應該把錢花在能改善你生活的事物上。是的，連那個也算。我知道這很心痛。

你應該注意到那些讓你難過的細微小事，不要只是置之不理，而是去修復它們。

不要在你的道德或其他不需要妥協的事情上妥協。

你應該跨越腦中那個尷尬的障礙，去做那件事。

你應該找人監督你，讓你去執行那些你真正想做的事。

去那趟你想去的旅行。

儘管尷尬（Be cringe）也沒關係。

去唱卡拉 OK。跳那些舞步。寫那篇部落格文章。

無視那些可能覺得你很尷尬的人。他們其實沒那麼在乎。

戴上你一直想戴的貓耳朵。

你也許會因此結交到和你一樣尷尬的朋友。

生命可能很短暫。所以，讓接下來的幾年成為最好的幾年。

帶著奇思妙想（whimsy）去生活。

• ^(^)我傾向於過度保守（低信心度），但我會說這個時間線大約有 50% 的置信區間。如果我仔細想想，我也能預見它可能再多花 10 年左右，這取決於你對「90% 置信度（前提是沒有 AI 暫停/禁令）」所設定的門檻。在情感上，1 到 4 年的期間感覺最正確。

  我在此不提供時間線的證據，我可能會在其他時間描述對我而言顯著的跡象，但其他人已經投入了更多精力來描述短時間線。

• ^(^)是的，說實話這是技術問題（skill issue）。

• ^(^)如果你不確定精疲力竭是什麼樣子，要察覺它可能相當困難。我曾因為可能精疲力竭而感到真正的愧疚，因為我對自己每週投入工作的時數感到愧疚。如果你甚至已經產生了這個假設，你可能應該花點時間認真考慮一下。如果你需要花點時間從現有的工作中真正徹底休息，這並不是什麼壞事。從遠處看，事情可能並不總是那麼緊迫。其他人也在做他們的工作。

• ^(^)適用「等量反向建議定律」：https://slatestarcodex.com/2014/03/24/should-you-reverse-any-advice-you-hear/

• ^(^)例外情況是「我在政治/法律等領域工作，在一般大眾中的聲譽極其重要」。如果你不確定，只是想保留選擇權，那麼這個例外可能不適用於你。而且你可能仍然過度在意聲譽。

  此外，我認為事情仍有可能進展順利，所以不要做那些魯莽且會在短期內危及生命的行為。避開身體上有危險的活動。處理好你的人體冷凍計劃等等。

參與討論