請問 HN：你如何應對那些過度信任大型語言模型（LLM）的人？

背景

這場討論源於 Hacker News 上的一則提問，原發文者觀察到身邊有越來越多人將大型語言模型（LLM）視為客觀真理的來源，即便面對可以透過可靠搜尋管道證實的問題，仍盲目信任 AI 的回答。這引發了社群對於如何與「過度信任 AI 者」互動的熱烈討論，核心爭議點在於這究竟是技術帶來的新型態認知危機，還是人類本性中對資訊盲從的延續。

社群觀點

在討論中，許多網友指出這種盲目信任並非 AI 時代特有的現象。部分觀點認為，這與過去人們盲信社群媒體、小報新聞或未經證實的網路傳言本質相同，只是 LLM 透過極具說服力的口吻與流暢的文筆，將資訊來源隱蔽化，使其聽起來更像權威。有留言者犀利地指出，現代社會中「一切皆是胡言亂語」，從科學、政治到工程實踐，大眾往往不加思索地接受主流推崇的觀點，LLM 只是最新的信仰對象。這種現象在具備高學歷或專業背景的人群中同樣存在，甚至讓原本理性的人顯得像是被「催眠」一般，將 AI 的輸出當作神諭。

然而，另一派意見則從實務角度出發，認為對 LLM 的信任有其合理性。他們指出目前的搜尋引擎（如 Google）充斥著 SEO 垃圾訊息，與其在廣告與廢話中篩選，LLM 提供的初步答案往往更具效率。支持者強調，使用 AI 是一種新時代的技能，關鍵在於如何透過「代理人（Agent）」機制進行多重驗證，或是要求 AI 提供引用來源並親自查證。他們認為，將 LLM 視為一個會胡說八道的「初級同事」或「計算機」是較為健康的態度，而非全盤否定其價值。

針對如何應對這些盲信者，社群給出了多樣的建議。一種溫和的做法是進行「框架重塑」，例如在對話中堅持使用「它」而非擬人化的稱呼，並引導對方思考 AI 的工具屬性。也有人建議透過現場演示 AI 的「迎合性（Sycophancy）」來打破迷思：只要連續質疑 AI 的正確性，它通常會立刻道歉並改口，這種反覆無常的表現能有效瓦解使用者的信任感。不過，也有較為消極或現實的觀點認為，對於無法區分邏輯與幻覺的人，爭論往往徒勞無功，最終只能讓現實的後果（如錯誤的法律文件或醫療建議）成為他們最好的老師。

有趣的是，討論中也觸及了哲學層面的辯論。有人將 LLM 的運作比作「祈禱」，認為使用者是在向數位神祇尋求指引，而不在意其字面上的真實性。同時，關於「人類大腦是否也只是複雜的 LLM」的爭議也引起反彈，部分網友批評這種觀點過於去人性化，忽略了人類情感與邏輯推理的深度。整體而言，社群達成了一種共識：雖然 LLM 是強大的生產力工具，但責任最終應歸於使用者，任何將 AI 輸出直接當作事實而未經審核的行為，本質上都是一種對個人責任的規避。

延伸閱讀

• BSBench (Bullshit Benchmark)：一個用於衡量 LLM 在面對誤導性或錯誤資訊時表現的基準測試，討論中提到 Claude 模型在此測試中表現優異。
• Gell-Mann Amnesia (蓋爾曼遺忘效應)：由麥可·克萊頓提出，描述人們在閱讀自己熟悉的專業領域新聞時能發現錯誤，但在閱讀不熟悉的領域時卻會自動相信媒體準確性的心理現象。
• Reddit r/aifails 討論版：蒐集各種 AI 失敗案例與幻覺實錄的社群。