Lesswrong 的價值何在？

如果你想學習某些知識，通常最好的來源往往不在 Lesswrong。如果你對生物化學感興趣，你應該拿起教科書；或者如果你對商業感興趣，找一位精通商業三要素（business triad）的導師，並不斷嘗試，直到你學會如何賺錢。

然而，Lesswrong 確實取得了一些重大成功。例如，如果你在過去 20 年裡，單純投資於 Lesswrong 認為可能大有可為的所有領域，你的表現可能會超越股市。雖然沒有人完全預測對了大型語言模型（LLM），但那些「錯得最少」的人似乎都聚集在 Lesswrong 周圍。嘿，甚至連超級預測員（super forecasters）對 AI 進展的估計，都一直比 Lesswrong 來得保守。還有新冠肺炎（Covid），Lesswrong 異常早地察覺到了跡象。

因此，Lesswrong 似乎確實擁有一些優勢。只是，那究竟是什麼？又為什麼是它？

---

以下是我最近在一次對話中得到的潛在答案：

理論 1：Lesswrong 將所有點數都加在了「一般認識論理性」（general epistemic rationality）上，而投入在「工具理性」（instrumental rationality）上的相對較少。

這並不適合那些結構穩定、複雜度低且擁有快速、低噪音、廉價反饋迴路的領域。例如：電腦程式編寫、凝聚態物理等。它也不適合那些需要專注於「有用」而非「真實」的領域。例如：商業、行銷、政治等。

它適用於：從未發生過的事、社交禁忌話題，或需要一般推理能力的事物。

我認為這個理論有其道理。它相當好地解釋了上述 Lesswrong 的成功與失敗。以及其他的成功案例，如真理符合論（correspondence theory of truth）、主觀概率觀、對預測市場的看好等。或許，這也解釋了在細節處理上的失敗，因為那涉及與現實的緊密耦合（？）。

但人必須警惕陷入單一理論的陷阱。

理論 2：篩選效應。Lesswrong 篩選出了聰明的人。

這意味著其他聰明人群體應該也做得和 Lesswrong 一樣好。他們做到了嗎？以預測員為例，我不認為預測員在 AI 的重大問題上（例如 GPT-4 是否會如此強大）表現優於 Lesswrong。話雖如此，他們在細節上確實大多與 Lesswrong 持平或勝過後者。或者以物理學家為例，據我所知，物理學界並沒有流傳關於新冠肺炎的早期預警。（一個潛在的測試：電腦科學教授們是否早期就察覺到了加密貨幣的影響和重要性？）

相反地，Lesswrong 也有一些典型聰明人不會有的狂熱。比如促智藥（nootropics），除了興奮劑以外，基本上都沒什麼用。

理論 2.1：理論 2 + Lesswrong 篩選出了對重大問題、未來和推理感興趣的人。

換句話說，Lesswrong 是一群有著獨特興趣的聰明人，他們在預測這些領域的發展時，比其他群體做得更好。同樣地，其他聰明人群體在他們自己感興趣的特定領域（autistic special interests）也會表現得比常人好。例如，一個由聰明健身者組成的論壇會知道變得強壯的最佳方法。

在這種背景下考慮新冠肺炎。Lesswrong 和有效利他主義者（EAs）對生存風險（existential risks）非常感興趣。大流行病就是其中之一。因此，Lesswrong 預先做好了準備，去關注重大潛在大流行病的跡象並採取相應行動。這個理論的一個優點是，它不會預測 Lesswrong 在預測股市對新冠肺炎的反應方面表現更好。如果我沒記錯，我們當時都對股市的強勁表現感到驚訝。

所以，這與其說是「比別人更清醒」，不如說是「真的花心思去關注」。就像加密貨幣。戴維（Wei Dai）、哈爾·芬尼（Hal Finney）等人是 Lesswrong 早期的重要貢獻者，並讓社群對這個話題產生了興趣。當其他群體還沒反應過來時，Lesswrong 就有機會說「是的，這說得通」。是的，很多人沒注意到，但相對而言，我認為 Lesswrong 做得很好。雖然這是在我加入該網站之前的事，我是根據傳聞得知的。

或許有一個問題：為什麼 Lesswrong 會關注這些重大問題？這可能是因為創始人效應。尤德考斯基（EY）和羅賓·漢森（Robin Hanson）強調重大且重要的問題，這相應地塑造了社群的興趣。

哪種理論是正確的？我不確定。首先，這些理論並非互斥。就我個人而言，我對理論 1 持保留態度，部分原因在於它迎合了我的虛榮心。此外，我只能指出少數幾個明確、重大的認識論勝利，這點令人起疑。

當然，我可以花 5 分鐘實際思考一下能區分這些理論的測試。但我得趕快完成這篇文章，而且我認為你們可能擁有更多我遺漏的想法和數據。所以，Lesswrong 擅長什麼，以及為什麼？