代理式 AI 敘事中缺失的環節

背景

Mark Nottingham 在其文章中探討了電腦運算從「工具」轉變為「代理人」的信任危機。過去我們將電腦視為螺絲起子般的純粹工具，其運作具備本地性且完全聽命於使用者，但隨著雲端運算與人工智慧代理人的興起，軟硬體層級中嵌入的利益往往與使用者背道而馳，導致信任鏈條的斷裂。

社群觀點

Hacker News 的討論首先針對「過去電腦更可靠」的假設展開辯論。部分資深使用者認為作者對 90 年代的運算環境帶有過度美化的濾鏡，當時的軟體極度不穩定，使用者必須養成每五秒按一次存檔鍵的肌肉記憶，以應對隨時可能發生的系統崩潰或資料毀損。然而，另一派觀點指出，儘管舊時代的軟體品質堪憂，但其行為是可預測且透明的，使用者擁有最終的診斷與修復權；相較之下，現代的「代理人」模式引入了非確定性的行為，這種不可預測性才是信任崩潰的主因。

關於 AI 代理人的本質，社群中出現了「工具論」與「委託論」的交鋒。反對者堅持電腦應維持其作為「心靈腳踏車」的定位，由人類主導駕駛，而非成為一種自動化的「資訊司機」，將處理好的結果直接餵食給使用者，這會剝奪人類的控制感。支持者則提出另一種思考框架，認為應將 AI 代理人視為類似「導盲犬」或「初級員工」的存在。人類歷史上長久以來都在與具備自主意識且不完美的代理人（如他人或動物）合作，雖然這些代理人可能出錯或產生幻覺，但其帶來的階梯式效率提升，或許仍優於人類親力親為。

此外，技術層面的討論聚焦於安全性與標準化。有評論者指出，代理人本身就是一個巨大的攻擊面，若通訊管道被操縱，代理人的判斷力將變得不可信，這本質上是作業系統層級的硬體認證問題，而非單純的架構設計。同時，也有開發者擔憂目前的代理人生態過於依賴封閉平台，若缺乏開放的標準與執行環境，使用者將再次陷入被科技巨頭鎖定的困境。

延伸閱讀

在討論中，參與者提到了一些開源且具備 API 互操作性的工具，例如 Mistral 推出的 Vibe CLI，以及標榜與 API 無關的開源代理人框架 Goose。此外，也有人分享了 pi.dev 作為相關技術參考，並提及 Cloudflare 針對 AI 爬蟲採取的預設攔截與支付機制，反映了網站端對代理人趨勢的防禦性應對。