為什麼人工智慧公司希望你害怕他們

背景

本文探討 AI 巨頭如 Anthropic 與 OpenAI 為何頻繁釋出「AI 具有毀滅性風險」的警告。從 Anthropic 宣稱其新模型 Claude Mythos 具備威脅國家安全的網路攻擊能力，到 Sam Altman 多次表達對技術失控的擔憂，這種「邊開發邊喊救命」的矛盾行為引發外界質疑。評論者認為，這類恐懼行銷背後隱藏著轉移監管注意力、拉高競爭門檻以及提升公司估值的商業算計。

社群觀點

Hacker News 的討論者對於 AI 公司的恐懼行銷普遍抱持懷疑態度，認為這是一種精心設計的公關策略。許多留言指出，這種「技術太強大以至於不能發布」的劇本早在 GPT-2 時期就演過一次，當時 OpenAI 聲稱該模型過於危險，結果幾個月後便照常釋出，證明所謂的危險性往往被過度誇大。社群成員認為，這種敘事方式能營造出一種「超自然」的強大感，讓大眾誤以為這些公司掌握了某種神級技術，進而吸引投資者並在市場競爭中建立心理護城河。

更深層的批評集中在「監管俘虜」的動機上。部分討論者指出，AI 公司透過強調存在性風險（X-risk），試圖引導政府制定極其嚴苛的監管標準。這類標準表面上是為了安全，實則可能扼殺開源社群與小型競爭對手的生存空間，因為只有資源雄厚的巨頭才有能力負擔合規成本。此外，這種對未來末日的集體焦慮，有效地轉移了公眾對當前現實問題的關注，例如 AI 訓練過程中的勞動力剝削、環境資源消耗，以及對現有就業市場的實質衝擊。

然而，社群中也存在不同的聲音。有觀點認為，AI 領袖的擔憂未必全是演戲，而是為了留住那些對 AI 安全有使命感的頂尖研究人才。如果公司不表現出對風險的重視，可能無法吸引這群視「對齊問題」為核心目標的專家。此外，針對 Anthropic 提到的網路安全威脅，部分資安專家在討論中表示，雖然模型能力是否達到「代際飛躍」仍有爭議，但 AI 確實正在改變漏洞挖掘的效率，這類風險並非完全憑空捏造。

最後，討論者將這種現象比作宗教或行銷手段。有人認為這與國防承包商的邏輯相似，透過強調威脅來換取預算與權力；也有人諷刺地指出，這就像麥當勞宣稱漢堡太美味會危害健康一樣荒謬。整體而言，HN 社群傾向於認為，AI 公司與其說是害怕技術毀滅世界，不如說是害怕大眾發現 AI 其實只是另一種需要人類介入才能運作的軟體工具，從而導致其估值泡沫破裂。

延伸閱讀

• Lee Vinsel 撰寫的評論文章《Criti-hype》：探討科技評論如何反過來助長了技術炒作。
• Emily M. Bender 等人合著的《The AI Con》：分析 AI 術語如何掩蓋自動化本質並集中權力。
• Carlini 在 Unprompted 會議上的演講：展示了如何透過簡單指令讓 AI 發現零日漏洞的實務案例。