黑暗伊蘭

當維拉姆（Vellam）第二次揭穿隱藏在整個社會底層的陰謀時，他去找了一位守護者（Keeper）。

這其中的部分差異在於便利性。自從維拉姆通報他發現了第一個陰謀後，他就一直住在世界地底（Basement of the World）的秘密 AI 研究實驗室裡，這裡的守護者比他當起司品管員時要容易找得多。

但維拉姆對自己很誠實。如果他沒有取得進展，無論守護者多麼方便，他都絕不會告訴他們，哪怕他們每天早上都在他家門口排隊，哀求他分享一點目前的智力成果。在他決定寧願與世隔絕也不願再多做一天起司檢驗之前，他已經對通用人工智慧（AGI）的見解守口如瓶了兩年。

不，他告訴守護者的唯一原因是他卡住了。

維拉姆的聰明程度與人類平均水準完全一致，這是一個他幾乎已經不再感到難過的事實。但普通人每週只能工作二十小時，而維拉姆能工作八十小時——如果他特別感興趣的話，甚至能到一百小時——原始的思考力可以用死腦筋的韌性來補償。一旦他發現了一個線頭，他就無法停止拆解，直到整個問題真相大白。

「告訴我你認為你知道些什麼。」守護者陰森地轉動她的辦公椅，那張椅子既符合人體工學，又充滿精緻的末日龐克（doompunk）風格，正對著維拉姆。

你認為，維拉姆注意到了。她不想冒險向他暗示他是對的。（他是對的。）

「泡沫化的歷史根本不合理，」維拉姆說。

「你知道我們不能冒險讓某人建立一個獨立項目來研究生存風險。」守護者的聲音聽起來很無聊。世界地底篩選的是那些能識別陰謀的人，因為那裡每十個人中就有一個是靠自己識破了通用人工智慧陰謀的。正如每個達斯·伊拉尼（dath ilani）十歲孩子在學校學到的那樣，選擇效應意味著守護者一直在處理各種陰謀的虛假指控。

或者至少守護者希望維拉姆這麼相信，好讓他把任何「那不太對勁」的微小直覺，都當作他這類人的常態而忽視掉。

「但我們有自動駕駛汽車的機器學習，」維拉姆說。「電腦視覺。甚至還有在預測市場自動交易的演算法。所有這些都比——我不知道——火是在農業之前還是之後發明的，更能暗示通用思考機器的可能性。而且人們一直在建立這種聯繫。」他揮手示意整個世界地底。

「主要的資訊危害（infohazard），」守護者說，「並不是思考機器是可能的，而是電腦技術應該進步得有多快。普通的達斯·伊拉尼相信電腦的智慧應該緩慢增長，或者根本不增長。對歷史的了解將準確顯示電腦進步的速度。」

維拉姆向前傾身。「但電腦發展得越快，你就越不需要泡沫化那麼多歷史來隱藏它們發展迅速的事實！現實地說，你只需要泡沫化電腦發明前的一個世紀？兩個？你沒有理由隱藏人類進化的歷史，順便說一句，我很感激現在能接觸到這些。」

守護者拿起一個指尖玩具，旋轉著金屬環。「你假設人工智慧是唯一值得擔心的生存風險。生物工程瘟疫、奈米技術……」

「生物工程瘟疫是在我們發明文字的同時發展起來的嗎？」維拉姆問道。「我擲骰判定不相信。」

指尖玩具的圓環交織、分離，然後再次交織。「到目前為止，你還沒有提供任何證據，是不能用『你沒有專攻人工智慧宏觀戰略，因此對該主題存在天然無知』來更好解釋的。」

「我想停下來思考一下，」維拉姆說。

守護者曾立下莊嚴誓言絕不撒謊，儘管他們可能會用技術上準確的陳述來誤導。你必須能夠依賴守護者，即使你無法依賴其他任何人。維拉姆在腦海中重播對話。守護者評論了他的假設、他的證據、人工智慧資訊危害的確切性質。守護者顯然沒有說他是錯的。

他極度確定地知道這一點。

維拉姆說：「謝謝妳沒有把我送去參加一場精心設計的冒險，結果卻發現是一條假線索，讓我感覺問題得到了回答，卻既沒有欺騙我，也沒有真正回答它們。我討厭被耍（trolling）。」

「『不這樣做』寫在你的檔案裡。」守護者在手指上轉動著圓環玩具。

維拉姆渴望閱讀自己的檔案，但連他也知道那裡面充滿了危險類型的資訊危害。「一旦我意識到泡沫化歷史毫無意義，」他繼續說道，「我就試著環顧四周，用全新的眼光去看。而且——事實上，我們社會的很多部分都說不通？我們每年都演習推翻政府，但我們真的從未需要推翻過治理署（Governance）。外星人入侵演習也是一樣。」

「治理署做得非常好，」守護者說，彷彿在嘲笑一個私人笑話。

「我們把這麼多社會資源投入到異常處理（Exception Handling）中，」維拉姆說。「僅舉一例，為什麼異常處理要不斷讓梅琳（Merrin）進行所有那些荒謬的模擬？我查過她每次被實際徵召的情況，她在模擬中接受訓練的內容有 83% 從未在現實生活的異常情況中發生過。例如，她從未在沒有預測市場的情況下做過決定。別說梅琳的模擬是好看的電視節目。沒錯，它們的收視率很高。但它們太昂貴了，治理署仍然必須補貼它們。我查過了。」

「嗯，」守護者說，「如果一種情況以前發生過，它就會變成常態。」

「還有資訊危害訓練，」維拉姆說。「妳知道嗎，我從未見過危險資訊危害的證據？」

「你期望被告知危險的資訊危害嗎？」守護者的語氣很犀利。維拉姆會認為這是責備，但那是他自己的焦慮；守護者是不責備人的。

「一個小的也行，」維拉姆說，「那種知道了也不會太受傷，但能演示這個概念的。就像在學校裡，他們給我們那種糖和玉米衍生物製成的甜食，並解釋說像它這樣的超級刺激物只能在『不明智消費品商店』找到。一定存在資訊危害，否則為什麼要這麼努力教人們避開它們？但沒有小的資訊危害，沒有任何你可以用來進行秘密品格測試的東西——」

守護者點點頭。「關於你所謂的陰謀，還有更多線索嗎？」

「沒有我能拼湊起來的了，」維拉姆說。「太平洋上有一個三角形區域，每艘船的貿易航線都會避開。除非你繪製出所有航線，否則這並不明顯。數據集是不可用的，所以你必須自己構建，這也很可疑。治理署禁止在北極的大部分地區定居和旅遊。每個人都認為是因為沒人想去那裡，但那很愚蠢，我敢打賭如果可以去的話，人們會想去的。我們不去月球或火星，儘管關於太空定居的書經常登上暢銷書排行榜。妳不能告訴我，文明（Civilization）僅僅因為某件事真的很酷就不去做。」

「正如你所言，」守護者說，「我們在『外星入侵節』和『異常處理』上花了很多錢。也許你認為文明的資源應該以不同的方式分配。守護者確實一直不願支持改造火星。在世界地底設計出友好的 AGI 之前，改造工程不會完成，而且在 AGI 的幫助下會簡單得多。」

維拉姆繼續說道。「妳有沒有注意到有多少資源投入到了貓的福利中？如果沒人想要狗、蛇或鬣蜥，我們就殺掉牠。如果沒人想要貓，貓就會去豪華莊園。人類品質的食物、充足的空間，文明所有最頂尖的攀爬設備設計。而且每一位知名的世界領袖都養貓。」

「貓很末日龐克，」守護者說。

「妳真的在聲稱」——維拉姆的聲音提高了——「末日龐克趨勢是一個不受世界領袖秘密知識影響的外生變量嗎？」

「即使是守護者也無法左右時尚的變幻莫測。」

「還有薩爾（Thall）的失憶症，」維拉姆說。「每隔一段時間，人們就會失去所有記憶，並專注於人文和社會科學？治理署命令每個人都容納他們——出於某種原因——他們不去寧靜城（Quiet Cities），他們被自動允許進入世界上所有的檔案館和圖書館，這很奇怪，這不是我們對待任何其他精神障礙的方式——而且我們不知道如何治療薩爾的失憶症，但它總是在四到七年後自發緩解——」

維拉姆遲鈍地注意到守護者舉起手打斷了他。

「真正的答案是一個資訊危害。」她並沒有用陰森和末日龐克的方式說出這句話，儘管大約五分之一的達斯·伊拉尼都渴望能說出「真正的答案是一個資訊危害」，僅僅是為了能用陰森和末日龐克的方式說出來。她很平靜，很安詳，一動不動。

維拉姆一直都知道第二個陰謀事關重大。你不會無緣無故地建立一個橫跨達斯·伊拉尼的陰謀，或者其實人們經常這麼做，但當你發現時他們會向你承認。但這是第一次，聽著守護者的聲音，他理解了。

守護者的指尖玩具被遺忘了，掛在她的中指上。「百分之八十四的人會後悔學到危險的資訊危害，如果他們只是因為無法忍受無知才想學習它的話。」

維拉姆應該被勸退。他現在就應該走出這間辦公室，滿足於不知道某些會傷害他理解力的東西。「守護者，我很樂意提前進入人體冷凍，我只是……」他的聲音哽咽了。「我必須知道。」

「我會要求你花五分鐘時間思考你所認可的偏好，」守護者說，「但不知為何，我確信你在來我辦公室之前已經這麼做了。」

維拉姆確實做了。那整整五分鐘他都被強烈的好奇心所吞噬。當他還是個孩子時，他就糾纏老師要求額外的工作和更多的課程。他在檢查起司是否有霉菌時聽物理和經濟學教科書，以作者預期一半的速度消化章節。他注意到了那些悄然消失的學者，以及那些從未有人發表過論文的主題，他一直觀察，直到線索解開。

一旦他在對世界的理解中發現了一個線頭，他就永遠、永遠無法停止拆解它。

「薩爾的失憶症是一個很好的發現，」守護者說，「但你漏掉了關於談論夢境的禁忌。」

「當然沒人談論夢境，」維拉姆自動說道，「它們是從系統性奇異的分佈中提取的關於世界的錯誤資訊來源，談論它們只會強化它們在你腦海中的存在。」

「或者，」守護者說，「如果人們談論夢境，他們會注意到大約百分之四十的人的夢境在夜與夜之間具有連續性，夢者在一個充滿奇蹟、奇幻和極佳建築的世界中冒險，而且出於某種原因，每個人都騎著斑馬。」

什麼。「那……另外百分之六十的人夢見什麼？」

「大部分？夢見他們從未從幼兒園畢業，必須回去上學，老師是梅琳，而且他們今天早上忘了穿衣服。」

「什麼！」維拉姆說。「我該怎麼發現那個？」

「我建議問人們一些尷尬的問題。既然你現在是一名守護者了，你就得在這方面下功夫。」

「既然我是一名——等等，什麼——我是對的？我是說，我當然是對的，我知道我什麼時候是對的，但是——我是對的？」一名守護者？以他那完全平凡的智力水準？他很努力，沒錯，但是——光努力是不夠的——

守護者微笑著，就像老師看著學生證明了一個難題。「的確如此。我只注意到了一個明顯的錯誤。」

「什麼錯誤，守護者？」

「存在一個小的資訊危害，人們可以學習它而不會有太大的傷害風險，所以我們可以用它來進行秘密的品格測試。我想知道你是否能猜出它是什麼。」

「不，我——」維拉姆停頓了一下，退後一步，試圖看清現實而不是填補他的預設。他不比別人聰明，但你不需要比別人聰明，只要你把在學校學到的東西真正付諸實踐——

「通用人工智慧，」維拉姆最後說道。

「正確。」守護者突然注意到自己拿著指尖玩具，把它放到一邊。「你當然讀過關於正交性假說（orthogonality thesis）的論文。論文中省略的是我們是如何發現它的。通過經驗主義。」

「不。」維拉姆的肌肉緊繃，呼吸加快，這是進化的無用殘餘，彷彿真相是一隻老虎，而他可能不得不逃跑。

「宇宙中到處都是未對齊（unaligned）的超級智慧。」

像大多數達斯·伊拉尼一樣，維拉姆總覺得治理署和守護者、預測市場和常規市場，已經處理好了一切。加入世界地底只強化了他的觀點。非常嚴肅的人，比他更聰明、更睿智、更冷酷的人，注意到了人工智慧並採取了適當的預防措施。維拉姆無法停止拆解線頭，但那是消遣性的。

維拉姆試圖回想起「接受不可思議真相」的技術，但一旦它們派上用場，他就忘光了。

「並不是說祂們恨我們，」守護者無情地繼續說道，「也不是說祂們愛我們；而是祂們從未遇到過原子嚴重短缺的情況，以至於覺得有必要動用我們的原子。」

「世界地底是——守護者是——」維拉姆不想說出他的感受，那是：我不想被迫成為一個大人。

「我們正試圖安排我們的生存，萬一祂們想要我們的原子，」守護者說。「我們泡沫化歷史是因為我們想不出其他辦法來隱藏祂們存在的所有證據。某些黑暗儀式可以吸引祂們的注意。在整個歷史中，愚蠢的人類為了權力、知識或復仇而與祂們達成交易。」

維拉姆說：「所以外星入侵節和梅琳是在為未對齊的超級智慧回歸做準備。」

「的確，」守護者說。「即使沒有愚蠢人類的協助，祂們回歸的可能性也令人擔憂。其中一位在歷史上對人類非常感興趣，以至於祂花了兩百年時間統治一個國家——」

「統治一個國家？」維拉姆打斷道。「但那——如果一個擁有異類價值觀的超級智慧對我們投入了那麼多關注，我們就沒有能力自主決定未來的任何事情，一切都是預先預見並安排好的，以實現祂的目標，祂預見了泡沫化，祂預見了我們現在的這場對話——」

「是的，」守護者說，「這是一個巨大的問題。我們在決策中引入了隨機性，這至少應該讓我們更難被預測；但確切的參數仍在辯論中。對你來說，我建議盡量不要去想它。」

維拉姆盯著守護者。你在小時候就學過不要那樣做。真實存在的事物就是要去面對的——你不能通過忽視問題來擺脫它——

「你腦海中現在閃過的那些信條有一個例外，」守護者說，「我們之所以不把它包含在內，是因為它會引起太多的疑問，那就是：『除了思考你所有的行為是否在幾千年前就被一個未對齊的超級智慧操縱了。』或者可能是一個已對齊的？我們的研究對『爬行混沌』（Crawling Chaos）的大部分價值觀都不清楚，但祂確實似乎很喜歡耍人（trolling）。」

「我們是為了討好一個未對齊的超級智慧，好讓祂不殺我們，才故意在我們的社會中充斥著互耍嗎？」

「不，」守護者說，「人類似乎真心喜歡互相捉弄。可能是爬行混沌把我們安排成這樣的。」

維拉姆說：「所以月球——」

「文明將北極、月球和火星讓給了那些與我們足夠對齊、可以進行貿易的外星智慧體。同樣，薩爾的失憶症是為那些想要對人類社會進行參與觀察的外星學者打掩護。貓是有智慧的，而且大多與人類的繁榮保持一致，儘管牠們有自己的安排來避免『真正的死亡』，並且不希望使用人體冷凍。然而，太平洋上的那個三角形是為了避開一個沉睡的實體，祂的意識將與文明的持續存在不相容。文明目前還無法殺死祂，儘管我們已經發現了一些有希望的研究途徑，並預計在幾十年內取得成功。」

「貓是有智慧的？！」

「牠們不想讓人類知道，因為」——她比了個引號——「『那會很煩，那些猴子會一直來打擾我們。』」

維拉姆覺得最難接受的是貓。像其他人一樣，他曾推測外星人都在哪裡；像其他人一樣，他認為守護者知道但沒說。外星人存在，而且是超級智慧，並且在操縱他的行為——這很有挑戰性，但感覺像科幻小說。貓，維拉姆是了解的。他抓過牠們的耳後。他餵過牠們吃魚。在心情不好的日子裡，他會讀《異常處理負責人的貓的一千張最萌照片》之類的報導。顯然牠們理解人體冷凍。

異常處理負責人的貓也在做異常處理，不是嗎？為了貓。因為貓也有異常處理。這簡直太……

「我們還沒到最困難的部分。」

「比未對齊的超級智慧還難，」維拉姆說，因為即使他還卡在貓的事情上，那才是頭等大事。

「你已經學會了——甚至不是學會，而是在潛意識層面吸收了你永遠不會質疑的東西——那就是世界是可以理解的，」守護者說，「你可以將它的規律和法則納入你的腦海，理解宇宙本身的真實本質是一個難度適中的挑戰，就像老師佈置的作業一樣。」

維拉姆輕聲說：「事實並非如此，對吧？」

「你舊有的信念本身並非錯誤。它是正確的，但它是正確的，是因為背後有大量的工作——而你的好奇心和韌性讓你自願承擔了這項工作。」

維拉姆感到自己非常年輕、非常渺小。他曾隨意想到過幾種他可能會後悔拆解這個線頭的方式——發現了一個摧毀他心智的資訊危害、與文明疏遠、守著痛苦的秘密，甚至是違背意願地被送到未來。他以為只要他那灼熱的求知欲得到滿足，他就能接受這一切。

他沒預料到這一點——環顧世界尋找一個大人，卻意識到那個大人就是他自己。

「我們教你理性，不是因為宇宙是可以理解的，而恰恰是因為它不可理解——你需要我們能給你的每一件工具來使它變得可以理解。」守護者彈了一下手指，一團火焰在她手中綻放。「維拉姆，你選擇了自己來學習魔法。」

討論