資訊衛生

雪崩是由巨大的噪音引起的嗎？

根據我十幾次教授這門課程或進行簡報的經驗，你們中至少有 7/10 的人正在點頭表示肯定，而另外 3 個人沒點頭的主要原因，是你們察覺到了陷阱。

那麼，你認為你知道什麼？為什麼你認為你知道它？

我們的身體正遭受持續的攻擊。細菌、病毒、寄生蟲——無窮無盡的微觀生物試圖劫持我們的細胞機制來進行自我複製。你察覺不到大多數的攻擊，因為你的免疫系統正在安靜地處理它們，區分自我與非我、益處與害處，並部署針對性的反應，在威脅站穩腳跟之前將其瓦解。

不久前，我們都經歷了一場全球大流行，並在 COVID-19 中上了一堂關於如何保護自己免受敵對遺傳密碼侵害的速成課。

但我們的心智也面臨著平行的挑戰，特別是隨著「資訊時代」持續扭曲成一場無止境的錯誤資訊戰爭，而迷因（memetic）戰線上的公共安全工作卻嚴重滯後。

在人類歷史上，現在比以往任何時候都更有想法、信仰和敘事不斷尋求進入你的大腦，爭奪你有限的注意力和記憶空間。理查·道金斯（Richard Dawkins）創造了「迷因」（meme）一詞，正是為了強調這種類比：正如基因透過繁殖和突變傳播，迷因透過溝通傳播。正如基因引導其宿主生命體走向複製適應性（與仁慈或痛苦等倫理觀念無關），迷因的傳播則基於迷因適應性——是否朗朗上口、是否易於分享——而與其是否真實無關。

這產生了一個問題：最有可能傳達到你那裡的觀點，並不是最準確的觀點。它們是那些最優化傳播路徑的觀點。

兩套免疫系統

你的生物免疫系統有兩個主要組成部分。先天免疫系統提供通用防禦：皮膚屏障、炎症反應、攻擊任何外來物質的細胞。後天免疫系統則透過接觸學習，針對特定病原體建立專門的抗體，並記住它們以便未來更快地做出反應。

你的迷因免疫系統在某些方面與之相似，也具有相似的失效模式：

1) 未能識別威脅。 某些病原體透過模仿身體自身的細胞，或比抗體適應更快的速度突變來逃避免疫系統。同樣地，一些錯誤觀點透過模仿正確論證的結構、訴諸感覺像證據的情感，或來自我們在其他情境下學會信任的來源，來逃避認識論（epistemic）的防禦。

2) 自體免疫反應。 有時免疫系統會攻擊身體自身的健康組織，導致慢性炎症和損傷。在認識論上，這表現為過度懷疑，拒絕真實且有用的資訊；或是表現為反射性的反對主義，僅僅因為觀點流行就予以反對。

3) 透過入口點產生的脆弱性。 病原體利用特定的弱點——黏膜、皮膚傷口、呼吸系統。迷因則利用特定的情感和認知弱點——恐懼、部落忠誠、想要感到特別或被證明的慾望、對不確定性的不安。

4) 受損狀態。 壓力、營養不良和睡眠不足都會削弱生物免疫系統。情緒困擾、認知疲勞和社交壓力都會削弱認識論防禦，但不僅僅是負面因素！你不會因為太過愉快或被認可而生病，但你肯定會因此更容易相信錯誤的事情……例如，當卡通或電影中巨大的噪音引起雪崩時。

無論你認為自己多麼理性，你都無法完美地評估所有資訊。正如你的身體沒有無限的資源來調查進入其中的每個分子，你的大腦也沒有無限的資源來仔細推敲它遇到的每個主張。你的推理能力受身體和情緒狀態影響，且通常依賴啟發法（heuristics）、捷徑和信任的過濾器。這是必要且適當的——但它創造了可被利用的漏洞。

防線

如果你想避免生病，你有各種不同的防線。大多數人認為皮膚是第一道防線，但實際上是你的環境。透過避開生病的人，你首先降低了接觸敵對病原體的風險。

接著才是皮膚，它在阻止敵對基因接觸你身體資源方面做得相當出色。有些細菌和病毒專門突破皮膚，但大多數必須依賴傷口或入口點：耳朵、眼睛、鼻子、嘴巴等。

你的心智也存在對等的防線。

首先是環境：如果你想相信真實的事情，盡量不要花太多時間在那些會對著你的臉噴灑錯誤資訊或拙劣論證的人身邊。你無法查證你聽到和讀到的一切；你字面上沒有所需的時間、精力或知識。培養一個在乎真實事物的社交網絡。

這其中一個重要且實際的面向是，要警惕你所屬的任何具有極端意識形態且可能充當同溫層的群體或論壇，特別是如果它的存在主要是為了嘲諷或仇恨另一個特定的意識形態或群體。據我所知，沒有比這更確定的方式會讓你經常接觸到大量片面、具備迷因適應性但卻錯誤的觀點了。你可能認為自己可以略讀標題，嘲笑那些精彩的吐槽，而不會影響你的認識論，但我敢打賭，這一切都會累積起來，儘管每一次的「打擊」可能微不足道。

第二是你的「皮膚」，在這種情況下，就是你已經擁有的信念。你擁有的知識越多，你就越不容易天真地相信謊言。

許多人會閱讀十幾篇新聞報導，並假設作者至少在準確性和真實性上付出了一些合理的努力……直到他們讀到一篇關於他們專業領域的新聞報導，並對記者發布的所有謬誤感到憤怒。蓋爾曼健忘症（Gell-Mann Amnesia）是指一種偏見：人們未能回頭意識到所有其他文章可能同樣值得類似的審視，只是他們缺乏審視所需的知識。

你可能認為自己是個懷疑論者，但如果你在遇到新資訊時沒有足夠的知識來啟動懷疑，那麼你所有的懷疑都無濟於事。你可以嘗試依賴廣泛的啟發法（例如「記者通常不是他們所寫主題的專家」或「記者通常有偏見」），但啟發法並非萬無一失，更糟的是，它們經常在相反的方向上出錯。

像許多在資訊時代初期長大的人一樣，我以前認為我不需要記住事實和數據，因為如果需要，我可以直接在網路上查。我不再相信這一點了。你的迷因免疫系統需要你「知道」事情才能啟動。 作為一個重視真理的人，困惑是你最強大的力量，但你首先需要感覺並注意到它，而且你需要一些信念讓新資訊與之碰撞，才能產生這種感覺。

第三是你的主動免疫系統：你推敲拙劣論證並研究資訊以區分真偽的能力。你越擅長識別邏輯謬誤和常見的操縱手段，你就越能在有害迷因突破其他防線後將其擊退。練習良好的認識論。 調查主張，抵制情感操縱，並與信任的同儕一起檢查你的盲點。

接種疫苗：知識即保護

為什麼孩子這麼容易受騙？因為他們什麼都不知道。

孩子會相信你告訴他們的字面上任何事情，直到你告訴他們的事情與之前別人告訴他們的事情直接矛盾，或者與他們自己的經驗直接矛盾。只有在那時，他們才會感到困惑、不確定或懷疑；只有在經歷了足夠多被誤導的情況後，他們才會形成啟發法，如「我的父母可能會出錯」或「大人有時會撒謊」，這最終會演變成「人們/老師/政府等會撒謊」。

健康生物的基因不斷告知構成其身體的細胞和系統需要做什麼來維持或恢復健康狀態。但人類心智並沒有固有的穩態來抵禦每個入侵的想法：嬰兒的大腦更像是空盒子，我們最初接觸到的想法構成了對後續想法的免疫反應。

注意到困惑是調查真相最強大的工具。當某些事情不吻合時，當一個主張與你認為自己知道的事情相矛盾時，那種摩擦就是資訊。但你需要現有的信念來體驗那種摩擦。如果你對某個主題一無所知，你就無法察覺關於它的主張何時可疑。

易受騙不僅僅是批判性思考能力的缺失。它可能源於資訊的匱乏。如果你從未想到要部署批判性思考工具，那麼這些工具就毫無用處，而當一個主張沒有觸發任何「等等，這不匹配」的反應時，你就不太可能部署它們。

我們透過已知事物的背景來學習。新資訊與現有信念碰撞，根據契合程度被吸收或拒絕。你現有的知識越穩健，你就越能評估新的主張。你知道得越多，就越難被愚弄。

這意味著理性訓練不應忽視具體層面（object-level）的知識。學習很多東西。廣泛閱讀。建立各個領域運作方式的詳細模型。這與認識論技能的建立並非分離的——它是其核心組成部分。

保持警覺：迷因弱點

你的眼睛和耳朵是迷因進入的入口，就像基因一樣，但你的迷因免疫系統還有其他更相關的弱點。

意識形態偏見就是其中之一。就像蓋爾曼健忘症一樣，大多數人會閱讀數十篇提出各種主張的文章，只要作者得出的結論是他們同意的，一切都會被毫無批判地接受。一旦作者說了讀者不同意的話，他們的推理、甚至動機就會受到更嚴格的審查。一般來說，如果錯誤的事情證實了我們已經相信的事，我們就更容易相信它。

還有情感偏見。情緒並非不理性——它們是內隱信念和預測的編碼組合，是對某事好或壞、安全或危險的快速評估。問題不在於我們在考慮斷言或假設時會產生情緒，而在於情緒會縮窄我們的意識和處理所有數據的能力。大多數對我們認識論有害的情緒，都是那些旨在驅動快速行動的情緒。

當恐懼驅使你在有時間評估草叢中的形狀是否真的是蛇之前，就對它做出反應時，恐懼是具有適應性的。當部落同伴大喊「美洲獅！」時，那些不夠害怕的人傳遞基因的頻率，不如那些感到害怕的人。當在一個方向出錯的代價遠低於另一個方向時，你應該預料到會存在特定方向的「偏見」。

憤怒也是類似的。保護本能在迅速行動時更為強大，在出現任何形式的誤導性文化戰爭之前，一個容易因憤怒而團結的部落，會輕易勝過那些不具備此特性的部落。

我們的所有情緒都有其目的，其中之一就是為啟發法提供動力，以節省我們的認知精力並激勵我們採取有益的行為。只有當我們意識到一個錯誤的信念或無益的結果時，我們才會將該啟發法標記為偏見。

為了在你的認識論中避免這些偏見，了解你的情感弱點是什麼。 有些人特別容易受那些證實其智力或道德優越感的主張影響。有些人則容易受那些證明對外群體怨恨合理的主張影響。還有一些人容易受那些承諾為複雜問題提供簡單解決方案，或提供加入排他性真理知情者社群的主張影響。

與此相關，邏輯謬誤利用了推理中的結構性漏洞。人身攻擊、訴諸權威、虛假二分法、滑坡謬誤——這些之所以存在，是因為它們對人類大腦有效，有時甚至對那些「明知故犯」的大腦也有效。覺察是必要的，但還不夠。你需要練習在現實世界中、在你的情緒被捲入且社交利害關係感覺真實時，即時注意到這些模式。

練習： 哪些情緒讓你更容易輕信？哪些讓你更懷疑？想一些你持有但知道許多人不同意的信念。你能分辨出你是否希望其中任何一個是真的嗎？注意到當你想像其中任何一個是錯誤的時候，你是否感到一種「退縮」。

溯源：信念從何而來？

想像一條線，從一個點開始，在三維空間中蜿蜒。起點是你出生的時空點，末端的箭頭是你現在坐著、站著或躺著閱讀的地方。這是你的生命線，你的肉體在世界上走過的路徑。

現在想像這條線周圍有一個護套，間隔大約三英里。那是你在晴天、視線與地平線相遇前能看多遠的距離。在這個護套內，是你親眼見過的一切，也是你聽過、聞過、嚐過和摸過的一切。

那是你的感覺層（sensorium），是構成你所經歷過的所有事物的時空隧道。

那個隧道之外的一切都是別人告訴你的。一切。

你讀過的書、老師告訴你的事，甚至是影片和音訊記錄或現場直播，所有這一切都是你必須信任別人去理解、查證並誠實地呈現給你的。

你能誠實地說你評估了所有這些來源嗎？那麼他們是如何學習他們傳遞給你的東西的呢？

信念就像病毒，總是有來源。了解信念的來源對於評估其可靠性至關重要。

挑選一個你相信但不是你親身經歷直接結果的事情，無論是一個經濟論點還是一個簡單的歷史事實。

問問自己：是誰把這個想法「傳染」給你的？你為什麼相信他們？因為自信？權威？還是別的什麼？

那是多久以前發生的？是否有新的資訊出現？你知道相關研究是否被重複驗證過嗎？

當時的情境是什麼？他們是在分享自己學到的東西嗎？還是在重複他們在網路上讀到或聽別人說過的話？

如果是後者，追溯可以一直持續到最初從自己的感覺層直接觀察到現象，然後寫成論文、在電視上談論，或告訴其他傳播者的人。

追溯可以繼續。但應該繼續嗎？

嗯，我會說這在很大程度上取決於你對信念的誤差容忍度，以及該信念的正確性對你的目標或價值觀有多重要。

但至少要意識到，這就是對你的信念進行溯源的意義，以及如果你不這樣做為什麼會有問題。

同樣地，我們不能指望自己獨立驗證我們相信的一切。我們無法重新運行我們聽說過的每一項科學研究，也無法親自驗證每一件歷史事件，使其達到阿波羅 11 號登月、大屠殺或紐約 9/11 恐怖襲擊的程度……這是歷史上記載最詳盡的三個事件，卻不知為何仍能引發陰謀論。

在某個時點，我們必須信任我們有足夠的證據，且周圍的社會總體上足夠理智，從而以足夠高的機率認為該信念是「合理的」。

但仍有陷阱需要注意，對他人的依賴應始終與對「填補空白時使用了哪些啟發法」的理解相結合。

例如：如果你對兩個信念僅有的了解是，有一百萬人相信信念 A，而有一千人相信一個無關的信念 B，是否有合理的理由對信念 A 持有更高的機率？

許多人發現這個問題很難，因為它使關於正確認識論的不同直覺產生了衝突；答案是「視情況而定」。

一千名獨立審查證據的專家，其分量可能超過一百萬名從周圍文化中吸收信念的人。但一百萬名都觀察到事件 A 的人，確實比一千名看到事件 B 的人增加了更多的可靠性。當然，一個能夠直接獲取關鍵證據的人，其分量可能超過所有人。

考慮到這一點，要警惕重複計算證據！如果你的五個朋友都相信某件事，這看起來像是強有力的佐證——但如果他們都相信是因為讀了同一條病毒式傳播的推文，那麼你只有一個資訊來源，而不是五個。

資訊瀑布（Information cascades）創造了獨立驗證的幻象。信念追溯如果能一致地應用到源頭，就能揭示表面的共識之下有多少實際證據，更不用說這些證據的品質了。

直覺上似乎認為，如果一條資訊經過了多個人，它就更有可能是真的，因為多個人都沒有判定它是假的。但實際上，人們不僅面臨在不查證的情況下傳播資訊的風險，他們還可能記錯、誤解或誤傳。你聽到他們說的話，甚至可能不是他們最初讀到或聽到的內容！

練習： 說出你的一個承重信念（load-bearing beliefs）——支撐你世界觀或決策的重要部分。你在哪裡學到它的？來源有多可靠？你花了多少時間尋找反面證據？如果它不是真的，世界會有什麼明顯的不同嗎？

戴上口罩：不要把錯誤資訊噴到別人身上

如前所述，保護自己免受敵對基因或迷因侵害的第一步是安全的環境。而你就是那個環境的一部分，無論是對他人還是對未來的自己。如果你污染了認識論公地，你遲早可能會受到這些錯誤信念下游產物的影響。

最簡單的規則：不要以如果你親自驗證過才會有的那種自信去重複事情。注意你平時說話的自信程度，以及你和他人使用的措辭。「我聽說……」應該引發你自己或他人的思考或提問：「從哪裡聽說的？」

「我查過並發現……」應該引起類似的反應：「在哪裡查的？那是什麽時候的事？」

如果你把二手資訊當作一手資訊傳遞，你就洗掉了不確定性，使該主張看起來比實際更有根據。你也在用自己的公信力取代你所重複的來源，對於你的朋友或同儕來說，如果你沒有深入研究，這可能會讓他們過度相信這件事。

更重要的是，注意到你何時試圖說服他人某事。注意到你是否開始試圖透過爭論讓某人接受某個信念，並問問自己為什麼。是什麼情緒在驅動你？你在希望、恐懼或試圖保護什麼？

說服本質上是一種對稱的武器。相信真理或謬誤的人都可以透過微妙或強有力的方式具有說服力。像直接證據和形式邏輯這樣的不對稱工具則更乾淨。

當面對在重要事情上與你意見分歧的人時，最好的做法是嘗試解釋是什麼最初說服了你這件事是真的。如果這對他們沒有說服力，調查他們持有什麼信念讓你的證據或推理「反彈」，這樣你就可以自己檢查這些信念，然後解釋為什麼你覺得它們沒有說服力（假設你確實不覺得！）。

這保留了重要的資訊——實際的證據和推理——而不僅僅是結論。它將對方視為能夠評估證據的認識論主體，而不是一個需要被操縱以達成一致的目標。這讓你能對新的資訊和論點保持開放，同時也能更好地理解他人以及他們為什麼相信他們所相信的事。朱莉亞·加萊夫（Julia Galef）稱之為「偵察兵心態」（scout mindset），與「士兵心態」（soldier mindset）相對：目標是準確地繪製現實地圖，而不是贏得修辭上的戰鬥。

對你的資訊來源使用良好的過濾。在吸收某人的具體主張之前，嘗試評估他們的認識論。他們是否言行一致？他們是用手創造東西，還是僅僅發表評論？他們是否經常出錯？出錯時他們會承認嗎？他們對信念是否草率，在沒有充分支持的情況下做出自信的主張？他們能清楚地解釋自己的推理嗎，還是依賴訴諸權威或現狀偏見？

多樣性是有價值的——尋求與你具有不同啟發法的觀點，即使有些觀點的認識論嚴謹性較低。但要相應地權衡這些來源。

這裡有一個更深層的觀點，由艾利澤·尤德考斯基（Eliezer Yudkowsky）在《飛機失事》（Planecrash）中透過凱爾瑟姆（Keltham）這個角色闡述：

或者，正如他後來總結的：「不可能連貫地期望說服自己相信任何事情……你也不能期望別人說服你相信某件事，即使你認為他們控制著你所看到的一切。」

你預期的後驗機率等於你的先驗機率——你最終可能會變得更加確信，但也有對等的機會你會發現證偽的證據並最終變得不那麼確信。總的來說，如果你推理正確，它會平衡掉。你無法「理性地計劃」將你的信念推向某個特定方向。

這意味著如果你注意到自己希望被說服相信某事，或者試圖說服自己，那麼某些地方就出錯了。那不是追求真理；那是可怕的（且命名不當的）合理化（rationalization）。

練習： 列出三個你認為具有良好認識論的人，三個具有糟糕認識論的人，以及三個你不確定的人。對於不確定的情況，需要什麼才能查明？注意到是否有什麼事情是你一直想說服自己相信的，或者希望別人能說服你相信的。為什麼？

風險與實踐

資訊衛生與身體衛生一樣，需要持續的維護。它也可能做得過頭。

如果你決定整天待在室內，除了透過玻璃門外不與任何人交談，並且只吃乾糧……你肯定極小化了生病的機會，但也過著貧乏的生活，而且在許多方面是不太健康的生活。如果你的免疫系統受損或在大流行期間，這可能是合理的，但如果你一直這樣生活，那可能有些地方出錯了。

同樣地，要警惕變得過於懷疑，以至於不再相信你讀到或聽到的任何事情。我們不能信任他人所說的一切。我們甚至不能信任我們自己觀察到的一切。但關心真理需要與唯我論或虛無主義的力量進行無止境的鬥爭：現實是存在的，獨立於我們的客觀經驗。我們無法完全理解領土，但我們仍必須生活在其中，而我們的地圖不需要完美準確，也依然值得改進。

一些有幫助的實踐：

透過正念練習提高自我意識。注意到你對主張的情感反應。注意到你何時感到防衛或被證明正確。

練習向懷疑的人解釋你相信什麼以及為什麼。如果你擅長寫作，就多寫。如果你不擅長演講，就多說。闡述你信念的理由通常會揭示它們比你想像的要脆弱。

當某些事情改變了你的想法時，記錄下背景和情況。建立一個模型，了解什麼樣的證據實際上能打動你。

練習詢問人們是什麼形成了他們的信念。養成追溯主張來源的習慣。追蹤那些展現出可靠推理的人。讓他們留在你的資訊流中，並剔除那些經常不戴口罩咳嗽的人。

為認識論的不確定性做好準備——大量的不確定性。人們通常不擅長記住自己應該有多不確定。即使在明確重視校準（calibration）的社群中，這也很難。知道的感覺並不等同於實際知道。下注（Betting）會有所幫助。

記住：這真的很困難。即使有良好的意圖和工具，你有時仍會出錯。目標不是完美的準確性，而是建立系統和習慣，讓你少出錯，並在出錯時幫助你更快地糾正。

你的心智就像你的身體一樣，將面臨源源不斷的潛在入侵者。你無法檢查每一個。但你可以了解你的弱點，追溯信念的來源，為你傳播的內容負責，並建立讓欺騙變得更難的知識庫。希望下一場大流行很久之後才會到來，但資訊時代帶來了迷因的地方性流行（memetic endemic），我們都需要更擅長衛生，為了我們自己，也為了彼此。