我所見人們走向意識形態極端的首要途徑

這篇連結文章在某種程度上是回應 @Raemon 的評論，關於為何 Raemon 所採用的程序在實踐中無法有效處理我在前一篇文章中提到的選擇效應（selection effects）。

在上一篇文章中，我談到了一種選擇效應：某個論點的信奉者無論面對什麼樣的反駁，最終都會相信自己的想法是正確的，而批評者則是瘋狂的錯誤、在反串或愚蠢。

信奉者的想法對了一半，因為對於大多數話題而言，由於計算能力的限制，大多數批評者的隨機錯誤會掩蓋任何真理信號或證據；但信奉者錯誤地將此視為其理論正確的證據，因為他們沒有意識到，無論你的主張是否正確，一個想法的大多數潛在批評者都會提出糟糕的批評。

這就是我說「僅靠論點很難處理選擇效應」時想表達的部分內容。因為一旦你不能依賴大眾來判斷一個論點是否正確，就變得非常容易產生扭曲思維的同溫層或選擇效應；且由於除了論點之外你沒有其他接地（grounding）的來源，這很容易導致錯誤的信念。

在實踐中，我們通常減輕選擇效應的方法，要麼是擁有地面實況（ground truth）的反饋，要麼是讓研究主題變得容易驗證（如數學、物理等領域），使得非你意識形態圈子的人在你出錯時能糾正你。

缺乏這些條件時，就會出現像營養/健康研究、社會學、心理學等科學領域，這些領域自信地產生了大量顯然帶有意識形態色彩的廢話。雖然這些領域還有其他問題，但選擇偏誤是一個重要的因素。

Andy Masley 在連結文章的末尾提供了一些工具，幫助你更廣泛地避免選擇偏誤：

我在成年生活中看到身邊的人和大眾轉向意識形態瘋狂的比例比我預期的要高。我失去了一個加入邪教的朋友。其他人變得如此脆弱，以至於在與普通人互動時，會因為極小的分歧而崩潰。還有人變得在意識形態上非常單一，執著於對世界非常特定（且在我看來並不具說服力）的解釋。這些人的背景以及讓他們發瘋的意識形態各不相同，但在所有這些現象背後，都有一個我認為其實很容易識別並停止的惡性動態。這個動態如下：
你產生了一個極端想法。
你遇到很多反對這個想法的人。
幾乎每一個反對你的人，看起來都對世界的基本事實極度無知，且在簡單的倫理問題上擁有相當糟糕的背景道德直覺。他們的異議顯然完全根植於他們既有的社會身份。
你得出結論：絕大多數對你極端想法的批評者確實極度無知、有些殘酷或冷漠，且大多是出於既有的社會原因而討厭你的想法。
這讓你更新了認知，認為你的想法可能更正確。
我在這裡的主張是，這裡唯一出錯的地方，也就是真正讓人誤入歧途的地方，是最後那一步——你因為對方的糟糕表現而正向更新了對自己想法的信心。
我原則上並不反對極端想法。我自己也有，主要是認為動物福利是一個比大多數人相信的更龐大且緊迫的災難。但我認為極端想法應該附帶一些警告標籤。
相信極端想法的主要危險在於，你非常容易因為與普通人進行大量糟糕的對話而產生負面極化，直到你覺得全世界其他人都瘋了或還在沉睡。之所以這麼容易，是因為大多數人在大多數時間裡對大多數事情確實處於「沉睡」狀態，在建立信念時並不十分深思熟慮，且通常只在與工作相關的少數領域擁有專業知識。
假設你變得政治激進並成為一名馬克思主義者。你確信勞動價值論是正確的。你學習了整個 20 世紀馬克思主義理論家的體系。你深入鑽研，背熟了所有的論點和概念。這與你在現實中看到的相符：窮人被龐大的系統無端地惡劣對待，許多針對貧困的補救方案並未賦予勞動者對生活的真實權力和控制。你越來越傾向於支持馬克思主義。然後你開始和其他人談論這件事。
考慮兩類人：

1. 大眾中會反對馬克思主義的人數。
2. 大眾中對經濟史和經濟哲學有足夠了解，能清楚說明為何馬克思主義和勞動價值論是不正確的，並能針對你對工人權力和階級衝突的具體關切，以現代社會理論家和經濟學家的方式提供更具說服力且倫理一致的解釋，且能耐心、徹底地進行交流的人數。
   你遇到的人中，同時屬於 1 和 2 的人，與僅屬於 1 的人相比有多少？我想情況大概會像這樣：

https://substackcdn.com/image/fetch/$s_!OCbw!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ffd7c69bc-07c3-417d-a7f1-04a27df6408f_960x560.png （LessWrong 版本的連結文章只會有連結，沒有照片，因為我無法在 LW 文檔中直接右鍵貼上圖片，且 Markdown 無法放入圖片，我也無法將圖片從一個分頁移動到另一個分頁）。
無意冒犯任何群體，美國的平均水平是未完成大學學業（僅 37% 擁有學位）。不到一半的人在去年讀過一本書。三分之二的人不知道通貨膨脹發生時貨幣會貶值。許多人採納某種信念是因為他們認為優秀的人也採納了這些信念。這些人中有多少比例能充分且具說服力地說明為何自由民主資本主義優於馬克思主義？我遇到的馬克思主義者大多聽過類似這樣的話：

• 有些人注定富有，有些人注定貧窮。事實就是這樣。
• 窮人活該貧窮。如果他們更努力工作，就不會有這些問題。
• 馬克思主義意味著每個人都要平等，但如果每個人都平等，就沒有人會……

這讓他們覺得大多數批評馬克思主義的人都是冷漠、愚蠢或瘋狂的，因此馬克思主義更有可能是正確的，而人們的其他想法更有可能是錯誤的。我記得一位激進的朋友在發現我認同自由資本主義時感到非常震驚，並提到：「我以前認識一個自稱自由主義者的人。他甚至不知道什麼是相互保證毀滅。」我暫停了對話，問我的朋友是否認為我不知道什麼是相互保證毀滅。他很難將那個人與我、或者與自由主義的概念、或者與他自己對馬克思主義的信仰區分開來。
我的核心主張是，大多數人在大多數時候都會是你極端想法的糟糕批評者。無論你有什麼想法，他們都會對你說出混亂、錯誤或道德上糟糕的話。這完全不能說明你的想法價值，也不能說明他們所相信的想法價值，這完全不應該讓你對自己的信念變得更有信心。反對方的平均代表幾乎總是表現得很糟糕，但那是因為普通人對你那超具體的事情了解不多，而不是因為反對方很糟糕。普通人（包括你和我）對大多數事情都極度困惑。這意味著如果你採納了任何顯得怪異並引發大量批評的想法，大部分批評也會是極度混亂的。馬克思主義者是對的，幾乎所有馬克思主義的批評者都給出了糟糕的論點、感到困惑，且有時對階級、貧困和資本主義持有令人反感的觀點，但那只是因為很多人本來就如此。（註：我在這裡與 Andy Masley 的觀點不同，我認為道德觀點可以被判定為令人反感，而非像後現代主義那樣採取道德相對主義，但這一點與核心議題無關）。
這發生在我 17 歲剛開始認同堅定左翼立場的時候。有一天，一個我知道非常保守的 19 歲年輕人正在看新聞，他說：「天哪，歐巴馬剛和俄羅斯簽署了一項協議，要銷毀我們大量的核武器。這太糟糕了。」我問為什麼這很糟，因為俄羅斯也會作為協議的一部分銷毀核武器。那個人變得很生氣，嚴厲地說：「那我們要怎麼對抗恐怖分子？」我決定不再爭論，離開時心想：「天哪，保守派太蠢了，這進一步證明了保守派很蠢，我不當保守派是對的。」這是一種糟糕的思考方式。我現在知道核武器政策極其複雜，終身研究它的專家們也各持己見，在大眾中很難找到足夠了解核武器並能進行嚴肅對話的人。核武器政策本身也並不完全對應清晰的左右翼軸線。如果一個深思熟慮、知識淵博的保守派就核武器信念向我挑戰，我可能會說出同樣甚至更愚蠢的話。我偶然遇到的一個對核武器一無所知的人，對我來說在核武器或左右翼政治上的證據價值應該為零。很多人只是意識形態的輪盤，隨機採納他們認同的政治部落中出現的信念。我只是碰到了一個這樣的人。僅此而已。但我當時做了那件錯事：當我聽到反對我信念的糟糕論點時，正向更新了我的信念。
如果你像我一樣是素食主義者，你會遇到很多無端挑釁且對素食主義提出愚蠢反駁的人（植物也有感情、殺戮是自然和進化的常態、我們確信只有人類有意識等等）。這會讓你覺得所有反素食主義者一定都同樣愚蠢或盲目，而唯一讓你覺得清醒和聰明的人只有其他素食主義者。素食社群之外的世界看起來不再有趣，你會假設每個「真正理解」的人都是素食主義者。這是一個非常危險的情緒終點！實際上有很多反對素食主義的有力論點，包括許多由堅定的動物福利活動家提出的論點。但我遇到的許多素食主義者似乎根本不知道這些論點的存在。
在這種情況下，極端意識形態的信奉者應該假設：「大多數人會在這件事上反對我。我不會從大多數人那裡找到很多好的論點。如果我真的想讓我的信念接受批評，我應該做的是嘗試找到最有力、最深思熟慮的批評，並以此為基礎。我還應該假設，如果我與那些同意我極端信念的人交談，我仍然會覺得他們在生活的許多其他方面處於『沉睡』狀態。在我的視野之外可能還有未知的景觀。我應該謹慎地去了解它們是否存在。」
這種思考方式比以往任何時候都重要，因為現在互聯網讓我們能非常快速地學習大量宏大的意識形態和思想。

保持一點精英主義

我的意思是，你應該忽略很多人對你極端信念的想法。你該如何決定與誰交流？我認為有兩條基本規則可以釐清誰值得傾聽：

1. 此人了解你們所爭論內容的基本事實，例如：
   • 主題：政治
   • 應知事實：政府的三權分立
   • 主題：馬克思主義
   • 應知事實：勞動價值論的基本概念
   • 主題：核武器
   • 應知事實：大多數國家的核武器存在純粹是為了威懾其他國家入侵/使用核武
2. 此人並非情緒激昂，且不想只是充當其團隊的戰士

這是一條精英主義的規則，因為我不認為你遇到的許多普通人能真正達到這兩項要求。我猜測這些規則本身就能結束許多對話，讓你騰出時間只與那些能真正給你提供優質、深度批評的人交流。如果你在現實世界中找不到這些人，就去互聯網上找。
你不應該將「清醒」與你的意識形態掛鉤，而應該將「清醒」視為任何對探求真相有著謹慎興趣的人所具備的特質。假設任何擁有合理信念的人都可以是這種意義上的「清醒」（但這需要一些努力和情感上的耐心），這會讓世界重新顯得開放且充滿活力，讓你的意識形態不再像是在瘋狂海洋中的孤島，而更像是一個你正試圖與批評者共同解決的有趣謎題。你應該盡量讓你的清醒感與你特定的意識形態信念保持脫鉤。這種將特定信念與「誰是清醒的人」區分開來的能力，本身就是讓我感受到那個人是「清醒」的特徵。
感覺到與你交談的人是「清醒」的，這令人陶醉。這是人們圍繞信念系統建立社群的原因。感覺自己與一個在世界上鮮活行動的人在一起，能給你帶來深切的陪伴感，這是人類的核心需求。為了在別處獲得這種陪伴感而偏離你的信念系統可能是可怕且令人畏縮的，特別是如果你已經很久沒這麼做了。如果你最近只從那些在重大核心問題上與你意見一致的人那裡感受到這種陪伴感，那麼是時候去「流浪」一下了。
但在流浪時，不要根據你與普通人的互動來更新你或他人信念的價值。