微小迴響

Lesswrong·

儘管先進人工智慧可能導致人類毀滅的形勢極其嚴峻,我仍選擇以不屈的態度面對掙扎,並為了最終的勝利繼續戰鬥。

我相信我們會贏。

這是 2014 年美國男子世界盃足球隊一則舊廣告的回響。他們當時並沒有贏。

我在柏克萊參加了 2025 年的世俗冬至(Secular Solstice)。我們聚集在一起唱歌、反思。

當晚的主題卻恰恰相反:「我不認為我們能挺過去。」

意思是:足夠先進的 AI 即將到來。我們不知道確切的時間,也不知道它會以何種形式出現,但它很可能即將到來。當它到來時,我們——人類——可能挺不過去。這是一個懸而未決的問題。結果很容易向任何一方傾斜。我們並未聽天由命。還有很多事情可以做,用以扭轉勝算。但我們並非勝算較大的一方。

主辦這場活動的 Raymond Arnold 相信這一點。我也相信。

然而,在活動進行到一半時,那個回響出現了。帶著挑釁。

我相信我們會贏。

活動有錄音。我強烈建議你在 12 月的某個時候撥出三小時,去聆聽、參與並跟著唱。請保持誠摯。

如果你不相信這點,我更要鼓勵你這麼做。如果你不理解這種心態或其背後的文化,或者將其視為對手、不喜歡它,特別是如果你的戰場在別處?那我更要加倍鼓勵你。你也可以參加 20 日在紐約舉行的冬至活動。

你會唱一些你熟悉的歌,也會唱一些陌生的歌。你會聽到關於奮鬥的故事,關於面對渺茫勝算或難以承受的失去卻依然戰鬥的故事,關於如何面對這一切並希望能保持理智的故事。為了讓結局——如果它真的發生——發現我們正表現出色。

我過著美好的生活。

寫到這裡我流淚了。但當我寫完後,我會打開另一個 Chrome 視窗。我會和深愛的朋友們共度這一天,觀看美式足球比賽。今晚,我和妻子將參加其中兩位朋友的「非婚禮」,那完全就是一場婚禮。我們會飛回家見我們優秀的孩子,在世界的中心享受比任何國王都更偉大的無盡奇蹟。除了時間,我別無所求。

幾乎每一天,我大都會拒絕那些奇蹟。我會回到電腦前。我會面對排山倒海而來的事件和資訊。雪崩將會加速。一個接一個的發布、一場接一場的爭論、政策、論文、事件,一場又一場的戰鬥。儘管讀到了這句話,人們仍會執意以超乎想像、毫無尊嚴的方式處理事件。我努力不讓自己陷入憤怒。我會進行篩選。我會處理。我會改變主意。我會嘗試解釋,就再試一次。我會在多個棋盤上移動棋子。

我們繼續前行。別叫我停止。總得有人去做,而沒有其他人會做。

我知道如果我忽視它,其他任何事物很快都會在我口中化為灰燼。

我會看著這些事件,看著局勢展開,看著我所做或影響的選擇所帶來的後果,無論好壞,並對自己說:這就是我們創造的世界。

不到最後一刻,勝負未定。永遠不要提前離場。在球場上傾盡所有,為了當塵土遮蔽太陽、你所希望的一切都化為烏有之時。你上場就是為了贏得比賽。

勝算對我們不利,局勢嚴峻。在預設情況下,我們輸了。我據此行動,並運用一些無法傳授的理智方法,以及其他方法的鏡像版本,所有這些確實都無法傳授,但絕對有效。

然而,那個回響就在那裡。在我的腦海中。它並不在乎。

我相信我們會贏。

Lesswrong

相關文章

  1. 灣區冬至活動的後續跟進

    5 個月前

  2. 你會沒事的

    4 個月前

  3. 為「Solstice」活動進行未來規劃

    5 個月前

  4. 關於暫停 AI 抗議活動的思考

    大約 2 個月前

  5. 帶著奇思妙想面對終局

    28 天前

其他收藏 · 0