未知的已知：五個讓你無法忽視的觀念

聖誕快樂！今天我將之前在 LessWrong (LW) 的一篇短文擴展成正式文章，討論「未知的已知」（unknown knowns）——那些看似「顯而易見」的想法，實際上卻很難討論，因為當你還沒掌握它們時，它們是隱形的；而一旦掌握了，就幾乎無法再忽視它們。

希望這對那二十位在聖誕節還會上 LW 逛逛的人來說，是一篇有趣的文章！

__

我的腦海中存在許多隱含的概念，它們看起來如此理所當然，以至於我甚至懶得將其口語化。至少，直到我注意到其他人並不具備這些概念為止。

當我學到這些概念時，並不覺得是什麼重大的啟示，僅僅是對某些極其明顯的事物進行了正式化。然而，既然其他人沒有這些直覺，或許在現實中，這些概念其實相當「非顯而易見」。

以下是一份簡短且未詳盡的清單：

• 介值定理 (Intermediate Value Theorem)
• 淨現值 (Net Present Value)
• 可微函數是局部線性的 (Differentiable functions are locally linear)
• 格萊斯格言 (Grice’s maxims)
• 心智理論 (Theory of Mind)

如果你以前從未聽說過這些想法，我強烈建議你閱讀下面相關的部分！最可能的情況是，它們對你來說會顯得很顯而易見。你可能已經知道這些概念，只是名稱不同，或者它們已經融入你的世界觀，只是沒有一個明確的稱呼。

然而，許多人似乎缺乏其中一些概念，而你可能也是其中之一。

作為一個測試：對於上述清單中的每個想法，你是否能想到一個非瑣碎的真實爭議案例，其中智力辯論的一方或雙方可能未能建立該概念的模型？如果不能，你可能遺漏了這些想法中的某些關鍵點！

照片由 Roberto Nickson 上傳至 Unsplash

介值定理 (The Intermediate Value Theorem)

概念： 如果一個連續函數從數值 A 變動到數值 B，它必須經過兩者之間的所有數值。換句話說，臨界點（tipping points）必然存在。

這看起來幾乎簡單到微不足道，但人們卻經常在此跌倒：

範例 1： 有時人們會說：「決定吃不吃肉不會影響工廠化農場屠宰動物的數量，因為超市是批發採購肉類的。」

範例 2： 低於一定金額的捐款不會產生任何作用，因為規劃一批抗瘧疾蚊帳或聘請一名新的 AI 安全研究員是「成塊」的（lumpy，非連續的）。

範例 3： 有時人們會說單一選票永遠無法影響選舉結果，因為「會有重新計票」。我認為如果一個人能從直覺層面完全理解介值定理（IVT），就不會說出這類的話（及其變體）。

核心錯誤在哪？ 人們理解在某些邊際下你處於一種狀態（例如：超市購買 2000 磅雞肉），而在另一些邊際下你處於另一種狀態（例如：超市購買 3000 磅雞肉）。但如果沒有 IVT 的概念，人們就意識不到：必然存在某個特定的決定，會讓情況從第一種狀態翻轉到第二種狀態。

請注意，這種錯誤（IVT 盲點）是遞歸的。例如，有時人們理解為什麼個人決定對超市訂單可能很重要，但隨後卻無法類推，並認為大型工廠化農場不會根據單一超市的訂單來決定養殖多少動物。

有趣的是，即使是著名的知識分子也會在 IVT 上犯錯。我曾聽過公眾人物說過上述三種說法的所有變體。[1]

淨現值 (Net Present Value)

概念： 未來一系列支付在今天的價值，並根據時間遠近進行折現。具體來說，足夠遙遠未來的金錢在現值中會縮減到幾乎為零，因此即使是無限的現金流，其現值也是有限的[2]。

範例 1： 有時人們完全不知道如何衡量「一次性收益」與「隨時間累積或複合的收益」。他們認為這個問題在概念上是不可能的（「你不能拿存量與流量相比」）。

範例 2： 有時人們說不可能透過一次性的大額捐款來解決永久性問題（例如舊金山的無家可歸問題或世界飢餓問題）。這是錯誤的：這在實踐中可能很困難，但顯然並非不可能。

範例 3： 有時人們會說永久性的支付流會比一次性的買斷昂貴得多。但在現實的利率下，兩者的差距大約只有 10 到 40 倍。

請注意，在許多情況下，有比「隨時間穩定投入」更好的解決方案。例如，透過農業和物流技術的改進來解決世界飢餓，會比「永遠餵養窮人」的淨現值更便宜。但後者的可能性為「這件事能有多貴」設定了一個上限（如果人們的行為大致理性），而這個上限恰好遠低於目前的全球 GDP 或財富水平。

可微函數是局部線性的 (Differentiable functions are locally linear)

概念： 在任何平滑曲線上縮放得足夠近，它看起來就像一條直線。

範例 1： 人們可能認為「風險規避」足以證明購買小額商品的保固是合理的（儘管期望值為負，但能讓你免於手機摔壞等下行風險）。但對於幾乎任何現實的風險規避效用函數來說，這都是不合理的，一旦你意識到任何可微效用函數都是局部線性的，這一點就會變得很清晰。

範例 2： 人們通常直覺認為利他主義者應該比自私的人對金錢更謹慎、對風險更敏感，儘管事實恰恰相反。利他主義者關心的是全球福祉，這是一個巨大的函數，因此縮放來看，幾乎任何個體利他主義者的捐贈預算對整個世界來說都是線性有益的。

範例 3： 人們擔心「被推入更高的稅率級距」，彷彿多賺一塊錢會讓他們的整體狀況變差。但納稅義務是收入的連續（分段線性）函數。除了極少數病態案例外，任何新增的一元收入都不會導致超過一元的納稅義務。

理解可微效用函數是局部線性的，可以統一許多可能讓人困惑的考量，例如：為什麼有時應該購買醫療險和壽險，但幾乎從不購買小型消費品保固；為什麼利他主義者在投資時應該更追求風險；為什麼資金管理對撲克玩家很重要，等等。

格萊斯格言 (Grice’s maxims)

概念： 格萊斯實際上提出了四條格言：

1. 量 (Quantity)（資訊量）：說得足夠多，但不要超過所需。
2. 質 (Quality)（真實性）：只說你相信是真實且有證據支持的話。
3. 關係 (Relation)（相關性）：要切題。
4. 方式 (Manner)（清晰度）：要清晰、簡潔、有條理。

我認為，一方或雙方未遵守格萊斯格言的爭議應該是相當顯而易見的。

許多形式的網路釣魚（trolling）會違反其中一條或多條格言，但並非全部。例如，「噴子戰術」（gish gallop）違反了資訊量格言。在非政治討論中提起希拉蕊的郵件或川普的最新醜聞，違反了相關性格言。某些糟糕的歐陸哲學形式經常違反方式格言，這也是為什麼許多人將其著作類比為網路釣魚。當然，許多釣魚者會撒謊，違反了真實性格言。

關於格萊斯格言重要性的更長且帶點諷刺的思考，可以閱讀我之前的文章：

《豬討厭它》(The Pig Hates It)

心智理論 (Theory of Mind)

概念： 心智理論（ToM）包含許多組成部分，但其中最重要的核心思想是：其他人也是代理人（agents）。每個人都有自己的目標、自己的世界運作模型，以及對自己能做什麼的限制。

範例 1： 有時人們會給敵人安上坦白說令人難以置信的動機，例如「共和黨人就是討厭女性」、「加薩人不關心他們的孩子」、「某某群體就是想殺嬰兒」等。

範例 2： 有時人們甚至根本不考慮他們的敵人（以及盟友和中立第三方）是否有動機。海軍戰爭學院歷史學家莎拉·潘恩（Sarah Paine）稱之為「半場網球」：有時美國政府官員和將軍們在思考戰爭與和平時，僅僅與美國的戰略目標掛鉤。他們甚至不考慮其他國家有自己的政治目的，而且這些國家並不主要根據美國的目標來定義自己的政治。

範例 3： 你是否經常覺得小說中的角色顯得很「扁平」？就像他們只是為了推進敘事點而意識到自己是小說角色的角色，而不是擁有希望和夢想的、有血有肉的人。

核心思想非常簡單：將其他代理人視為真實的存在。這聽起來很陳腐，直到你意識到這有多罕見，以及人們多麼頻繁地搞砸。

我認為關於心智理論的失敗與優點的完整論述值得單獨寫一篇部落格文章，這正是我接下來要做的！如果你感興趣，請訂閱！:)

為什麼這一切很重要

首先，我認為上述所有概念都很重要且精妙，如果更多的讀者了解它們，那將是一件好事！

更重要的是，我認為想法（ideas）很重要。我深信想法極其重要，是許多文明進步（和倒退）背後的推手。

這是本部落格的核心主題之一：想法很重要，如果我們更加努力、更聰明地工作，如果我們以奉獻精神和好奇心對待每個問題，我們就能一起學習更多的想法，將它們融入我們的世界觀，並利用這些想法來改善我們的生活和世界。

我指的不僅僅是宏大、包羅萬象的意識形態框架，如啟蒙運動或共產主義。我指的也不僅僅是巨大的科學革命，如進化論或相對論。

我指的是微小的想法，像上面提到的那些簡單概念，它們幫助我們思考得更好，生活得更好。

我感興趣的是一類我稱之為「未知的已知」的東西：這些概念一旦獲得，感覺就不再像你學到的模型，而更像是現實中顯而易見的特徵。在擁有它們之前，它們是隱形的；而一旦獲得，就幾乎不可能再……