我想，未來的萬事萬物都將是謊言

背景

本文探討了大型語言模型（LLM）作為「胡說八道機器」（Bullshit Machines）的本質，作者回顧了從科幻夢想到現實幻滅的過程，指出這些模型雖然在統計學上能生成極其擬真的文本，但其核心缺乏對真實性的認知。文章強調，當前的 AI 浪潮正將社會推向一個充滿虛假資訊、難以分辨真偽的未來，這種「即興創作」的特性使得模型在處理嚴肅議題時具有潛在的危險性。

社群觀點

Hacker News 的討論圍繞著「胡說八道」這一術語的精確定義展開。部分評論者指出，這裡所謂的胡說八道並非指輸出品質低劣，而是引用哲學家哈里·法蘭克福的定義，意指模型僅在意言論是否「聽起來合理」，而非是否「真實」。支持此觀點的網友認為，LLM 的架構本質上就缺乏內在的真理模型，這種統計上的擬真與事實之間存在根本性的斷裂。即便模型性能在過去幾年有顯著進步，但這種核心缺陷並未消失，只是變得更難以察覺。

然而，另一派觀點則對這種化約論提出反駁。有開發者認為，將 LLM 僅視為胡說八道機器過於片面，因為在軟體開發等特定領域，這些工具已經展現出極高的實用價值。他們主張，人類大腦在思考過程中也會經歷類似「幻覺」的過程，例如在得出正確結論前會先產生錯誤的直覺或假設。因此，問題可能不在於機器會出錯，而在於人類對技術的過度信任。這種信任被形容為一種變體的「蓋爾曼健忘症」，即人們在自己專業領域能識破 AI 的錯誤，但在陌生領域卻會輕易相信 AI 充滿自信的語氣。

討論中也觸及了規模化帶來的社會風險。留言者憂慮，雖然人類也會撒謊，但 AI 撒謊的速度與規模是前所未有的，這將導致驗證資訊的成本大幅攀升，甚至引發「布蘭多里尼定律」所描述的困境：反駁謊言所需的能量遠大於製造謊言。此外，有經驗的工程師分享了應對之道，強調必須將 AI 視為需要嚴格監管的對象，透過單元測試、原始碼審查或要求提供來源引用等手段建立「防護門」，以防止未經證實的資訊滲透到生產環境中。

最後，社群達成了一種微妙的共識：AI 的價值取決於使用者的判斷力與應用場景。對於可以被客觀驗證的任務（如程式碼編寫），LLM 是強大的輔助工具；但對於依賴事實記憶或缺乏驗證機制的領域，過度依賴這些模型則顯得極度不負責任。這種技術進步與可靠性之間的落差，正是當前科技發展中最令人不安的「恐怖谷」地帶。

延伸閱讀

• Harry G. Frankfurt 的著作《論胡說八道》（On Bullshit）：定義了不顧真假、只求說服力的言論本質。
• 學術論文《大型語言模型與胡說八道的概念》（Large language models and the concept of bullshit）：探討 LLM 輸出與哲學意義上胡說八道的關聯。
• 布蘭多里尼定律（Brandolini's Law）：亦稱胡說八道不對稱原則，強調闢謠的艱難。