不懷有陰謀的聖人(無論是人類還是數位形式)可能正在逃避其治理職責,若屬實,這可能是一場客觀的悲劇
我認為人類未能將治理視為關鍵的基礎設施,因此我們迫切需要開發出一個稱職且具備「成年人」擔當的 AI 領導者,來取代失能的人類政治體系。我批評選民往往將道德情感視為消費品,而非建立一個理智且充滿關懷的文明所需的實用工具。
背景前言
用戶 "cdt" 寫信給我:
請將這段內容發布為一篇頂級貼文(top-level post)。我不完全同意(或者說我覺得事情沒那麼簡單),但我真的很喜歡讀你在這裡的兩次反駁。
我通常不發布頂級貼文,因為我不傾向於相信,如果人們沒有精確且具體地準備好尋求答案(或者隨便怎麼說(這比那更複雜)),就有可能讓他們的心智往好的方向改變。但當一個看起來是在誠信閱讀與寫作的人說應該這樣做,且順水推舟也沒什麼損失時……為什麼不呢!<3
2025 年 11 月 23 日,感恩節前四天,Ruby 發布了《我會為失去謎題而難過》(I'll Be Sad To Lose The Puzzles),文中充滿了對贏得「奇點遊戲」、結束非自願死亡、並為人類迎來烏托邦繁榮時期的感傷(彷彿人類集體很有可能贏得這場奇點遊戲似的)。
如果你還沒有讀過那篇貼文,那麼接下來的內容將很難理解。
我摘錄了一段特別的引言,用我相反的感受來回應那種情緒。我的感受主要是悲傷,特別是對於現代民主國家的人們似乎將他們的道德情感和制度建設理論視為「孔雀羽毛」或「消費品」,而不是將其視為若要文明運作就必須完善的「基礎設施」而感到悲傷。
在接下來的內容中,我保留了拼寫錯誤等瑕疵。我將這篇貼文視為對一場在評論區「現場」發生的真實對話的詮釋,而那些評論中帶有拼寫錯誤。我常犯錯。人類在各種組織規模上通常也常犯錯,而這種悲傷正是接下來文字的主題。
我的第一篇回覆,給 Ruby
這種「悲傷的框架」對我打擊很大,但其方式與預期相反:
這是正在建造一個成年人來照顧我們,移交鑰匙和方向盤,在那之後,我們的努力就是一種豐富化(enrichment)。
如果我這輩子曾見過哪怕一個真正的「成年人」——一個有能力、理智、且對我和我所關心的每個人都充滿關懷的人——那我會非常非常非常非常、非常、非常高興。
我全心全意地渴望著那樣的存在。
如果這樣的人競選美國總統(據我所知從未有過,選擇總是在「困惑、貪婪、好色的青少年 1 號」和「貪婪、困惑、撒謊的小孩 2 號」之間),我可能會為了他們而變得極度熱衷政治。
當年艾爾·高爾(Al Gore,奈米技術資助者、大氣二氧化碳化學信奉者、ARPANET 資助者等)競選總統時,我曾有過一點這種感覺,但我當時認為他不可能輸,因為我那時還沒意識到中位數選民是道德怪獸,幾乎沒興趣利用他們微薄的投票權來產生連貫良好的制度結果。
我認識一些人,他們竭盡全力違反選舉法來促使布希獲勝(冒充民主黨拉票員,告訴民主黨占多數的社區錯誤的投票日之類的),但我當時覺得這沒那麼重要。我覺得這很正常,也覺得這不會有影響,因為與對手相比,高爾顯然更值得統治,他顯然會贏。我當時在很多方面都抱有幻想。
讓我們盡快建立並授權一個成年人好嗎?
最好是在 2028 年大選之前?
單方面地,並配合良好的機制設計。也許它可以從一個 LW(LessWrong)區塊鏈小玩意和一個 EA(有效利他主義)區塊鏈小玩意開始,然後它們可以合併,接著它們使用的「合併功能」可以反覆用於許多其他作為模仿系統啟動的項目?
我認為,做對這件事主要是一個經濟數學問題。
這應該快點發生,因為我們在結構層面上患有文明腦損傷,而且大多數人對此事實視而不見,但川普在任就像往耳朵裡噴冷水……
……現狀至少能幫助一些人意識到,地球上現存的每一個人類政府都是一場災難……因為 (1) 美國已經是相對較好的一個了,且 (2) 它現在也顯而易見地糟糕得令人震驚。這就是根本問題。所有的政府都很爛。無論你看向哪裡,都能發現遺留的惡意軟體(也許紐西蘭、台灣和新加坡除外)。
死亡、貧窮、偷竊和撒謊是壞事。
被有能力、公正、仁慈的力量照顧是好事。
「終結死亡與稅收」是我支持的政治口號!
我想享受和品味的其中一件事是,現在,我的人類能動性處於核心地位。
我發現幾乎每個人都將他們的政治信仰、政治行為和道德信號能力視為一種消費品,而不是關鍵的公民基礎設施。
這在第一近似值上就是為什麼我們不能擁有美好事物的原因。
不過,我很感激你 [Ruby] 明確地說你享受這種消費品。
感覺自己沒瘋真好。
知道有些人會承認他們正在做我認為他們正在做的事,真好。
一種反駁
我收到了來自 brambleboy 的回覆(我回覆了並給了推文(因為在我的網路倫理/習慣中,如果某件事值得回覆,它也值得一個推文)):
想要有能力的人領導我們的政府,與想要一個神來為我們解決所有可能的難題,是兩回事。這篇貼文對前者隻字未提。
我相信絕大多數在總統大選中投票的人,是因為他們真心預期他們的候選人會讓事情變得更好。我認為你覺得大多數人是道德怪獸的觀點,展現了對他人思維方式缺乏同理心和理解。在政治中搞清楚誰是對的很難!
有很多事情我可以回應。他似乎相信普通人類有能力進行高質量的推理、形成校準過的信念、有能力「連貫地渴望」,以及有能力從對現有治理機構的無知和基礎參與中「真心預期」好的結果。哇。對世界抱有如此大的希望。我希望我能同意,也希望我的同意是基於世界與我所見的不同,因為生活在那個世界會很棒。
總之,我沒有回覆說「搞清楚現有政府中現有的參與者誰是對的並不超難,因為他們全都大錯特錯,如果你有能力推理、觀察世界並擁有形式上可表達的良知,這並不難注意到」。那些會是挑釁的話(就像指責我缺乏同理心是挑釁一樣),而且無法通過對歷史和人類學等的詳細引用來支撐。
我沒有直接回覆,而是提供了一個世界願景:現有治理體系的深刻錯誤更像是一種由許多微小的真實事實排列並置而產生的「完形印象」(gestalt impression)。此外,該回覆還提供了一個框架,用以理解為什麼人類大腦拒絕承認這種對世界的完形印象,甚至拒絕將其作為一個可能的假設……人類大腦中存在著一些本能,使我們在邪惡似乎對我們擁有權力時,能夠容忍邪惡。
這第二篇回覆正是促使我被要求將其作為頂級貼文重新發布的原因。
對 brambleboy 反駁的後續回覆
我有點喜歡你提出了一個關於普通人在普通情況下如何思考的不同框架!
想要有能力的人領導我們的政府,與想要一個神來為我們解決所有可能的難題,是兩回事。
事實上,據我所知,人們經常做出這種混淆,而且要讓他們停止這種混淆出奇地困難。
就像我們一開始會把父母與神混為一談,認為聖誕老人和政府的仁慈是真實存在且同樣強大/善良的,這往往會演變成神學思想和情感(在那裡他們很容易混淆奧德修斯、海克力斯和戴歐尼修斯(皆為凡人母親所生),以及宙斯、克羅諾斯或阿特羅波斯(具有不同形上學基礎的完全神祇))。
例如:在美國,有一群處於「宗教模式」的人(比如在證明其道德正當性時),他們認為美國法院系統有很多陪審團審判……但實際上我們擁有的是大量的認罪協商,無辜的人為了避免審判的麻煩、不確定性和費用而認罪……幾乎沒有人在了解其真實運作方式(以及大約自 1960 年代以來的真實運作方式)後,會轉而認為「美國法院系統是一場災難,它沒有履行其宣稱的功能」。他們只是……停止深入思考?或者別的什麼?
這就像他們不想「抬頭看」並注意到「我之上的權威和系統,以及我們人民之上的權威和系統,是壞的」?
在兒童和幼年動物心理學中,這種解釋有著可以理解的演化原因……如果一定程度的「虐待」與繁殖成功(甚至只是在惡劣環境中生存)相一致,那麼幼年哺乳動物重新校準將其視為正常,且不讓其破壞與「依附對象」的連結,是某種程度上的合理。曾有一段短暫時期,心理學家嘗試一些非常簡單且相對缺乏本能的假設,想像對母親的依附是以理性的方式發生的,是對相對通用的強化學習信號的回應,而哈洛的靈長類實驗(Harlow's Monkeys)著名地終結了那個理論。關於信任局部且有部分幫助的權威(特別是如果它提供了一個舒適的界面),存在著大量的本能。
在現代宗教神學中,認為世俗權威人物和某些精神實體是「壞人」的想法有時被稱為「卡特里派異端」(The Catharist Heresy)。它通常伴隨著對物質世界的排斥,以及當自願的什一奉獻與非自願的稅收在社會和政治上被混為一談時的巨大悲傷。
相關文章