彩蛋、房間、謎題與關於人工智慧的討論

我和五位朋友住在一棟大房子裡。在這個特別的週日，我做了兩件事：在房子各處藏了 156 顆復活節彩蛋，以及針對其中四間房間的分配達成了一個初步的共同決定。

這兩項任務對我來說都很愉快，原因在於它們的共同點，而我希望藉此引出一些極具深遠意義的結論。

復活節彩蛋

對我來說，一個房間通常看起來很簡單——一個大盒子，裡面有一些較小的、大多也是盒子狀的物體和孔洞。其中的每一件物品通常看起來也很簡單：櫥櫃是一個盒子形狀的孔，帶有一個可移動的薄盒子狀正面，並配有鉸鏈（這是最複雜的部分，但在這個圖景中，它們唯一的特性就是讓平面繞著固定的邊緣旋轉）。有時櫥櫃會有層板，就像是分割空間的平面。

在這種圖景下，要把彩蛋藏好是很難的！比如，我可以把一顆蛋放進櫥櫃裡？放在最上層？或者最下層！他們絕對找不到那裡！

這些都不是好的藏匿地點。

為了把彩蛋藏好，你需要看到許多在簡單圖景中被你抽象化掉的細節。像是櫥櫃後方奇怪的隆起，或是繞過正面邊緣下方的電線，或是支撐層板的托架，其間隙可以塞進東西，又或者是後方角落裡一片散落的洋蔥皮。

這是我最喜歡的藏匿地點之一——你能看到蛋嗎？

答案如下：

.

.

.

.

.

.

.

.

.

.

.

.

我喜歡這個位置，因為在我的腦海中，靠墊看起來非常像是一個充氣的正方形——是的，帶有某種圖案，而且可能有些磨損，但我並不預期「圖案 + 磨損 = 你可以在其表面藏一個體積不小的實體對象」。

這是一個特別空的房間（需要分配的房間之一），目前被稱為「拼圖室」：

我在裡面藏了十顆蛋（這張照片中大概能看到兩顆），大家花了好一段時間才把它們全部找齊。這似乎有力地幫助了一些尋蛋者獲得類似的體驗：空間中包含著某些細節，即使你努力去觀察，不知為何還是很難看見。

如果能有一種「細節程度轉盤」，讓你可以讀取並根據需要自覺地調高或調低細節，那是一回事。但觀察人們尋找彩蛋時，一件有趣的事是：他們不一定能選擇自己要抽象化掉哪些東西，也無法完全判斷自己觀察得有多「仔細」。你可以把蛋放在他們眼前，他們自認為看得很仔細，卻就是看不見那顆蛋。當一個人感知到任何事物時，他已經將其簡化了。你無法直接觀察所有的原始細節並檢查其中是否有蛋。

除了無法控制自己使用哪些抽象概念外，我現在覺得對手（例如藏蛋者）可以猜測並利用你的抽象化習慣。在櫥櫃的細節中，即使你仔細觀察側邊的形狀，你可能還是會漏掉那片洋蔥皮，因為它只是隨機的髒汙，而你正在檢查的是櫥櫃。這也是那個破舊靠墊的妙處——如果你習慣性地將磨損的事物腦補成它們應有的樣子，就很難看清它破損的細節，進而看不見那顆蛋。

另一個可能的例子是，我們的一間浴室貼著「浴室！」的標籤，我預期我的室友們已經看慣並會忽略它，訪客在前往他們已經認定為浴室的空間尋找彩蛋時，可能也會對其視而不見。我用便利貼背膠把一顆蛋黏在標籤後面，這對標籤表面的平整度造成了相當明顯的破壞，但這顆蛋直到最後被意外撞落才被發現。

房間

分配房間看起來應該是一件簡單的事——只有幾種選擇！比如，如果你有四間房，而 Alice 和 Bob 每個人基本上都需要一個睡覺和工作的地方，那麼似乎只要考慮那 24 種可能性就能搞定了。但實際上（至少在我住的房子裡），所謂的「房間」具體指哪些空間，往往比你想像的更模糊；而預期會進行哪些活動，或者誰是所有者，其組合的可能性也比我起初看到的要多得多。

對於房間分配為何會變複雜，我感到比較困惑，但在這棟房子裡，我有過兩次這樣的經歷：對這樣一個問題思索了看似不合理的一段時間，然後想出了我們之前沒想到或沒認真對待的新點子，最終達成了一個令人滿意的安排。這一次，我們的初步計劃包括其中一間臥室同時兼作錄音室，並且在兩個人之間總共有三間帶床的房間。回想起來這一切都顯得很簡單，但我已經為此苦思冥想了好幾個星期。

再次強調，盯著簡單的事物看足夠長的時間、足夠仔細，直到能以一種你無法隨意選擇的方式更豐富地看見它們，並以此解決你的問題，這感覺既神奇又美好。

經典謎題

這種情況——你視為理所當然的抽象化使得問題變得困難，而抽象化中的縫隙讓你得以做得更好——是構建謎題的一種經典方式。例如（來自 Reddit）：

AI 風險

在與人討論 AI 風險時，有一件事長期以來一直困擾著我，那就是人們經常使用非常抽象的術語——「我們需要相對於能力進展的安全性進展」，或者「某某將獲得決定性的戰略優勢，並將產生價值鎖定」——然後預期自己是正確的，而且相當自信！

與大多數人相比，我非常熱愛抽象概念（我曾在邁爾斯-布里格斯測試的相關維度上獲得 100%！），但我也預期抽象概念到處都會有相關的磨損邊緣。如果你正試圖解決問題並苦於找不到解決方案，這一點尤為重要。

特別是，例如，我經常聽到有人說，試圖不製造真正危險的 AI 技術是徒勞或愚蠢的，因為「這是一場競賽」。但在你放棄阻止這場災難之前，我真的希望你至少能花同樣多的注意力，去觀察「軍備競賽」這一層級之下的世界細節，就像我男朋友在洗衣機裡發現那顆蛋之前，盯著洗衣機看的那樣仔細。

參與討論