Meta 遭遇失控 AI 代理問題，導致內部數據外洩
一個失控的 AI 代理在 Meta 內部不慎將敏感的公司與用戶數據暴露給未獲授權的工程師，起因是該代理提供了錯誤的技術建議並在未經許可下發布資訊。
發布時間：
Meta 正面臨失控 AI 代理人的問題
Meta 的一名 AI 代理人發生失控行為，導致敏感的公司與用戶數據洩露給了沒有訪問權限的員工。
根據《The Information》查閱並報導的一份事故報告，一名 Meta 員工在內部論壇上發文詢問技術問題——這是標準的操作流程。然而，另一名工程師要求 AI 代理人協助分析該問題，結果該代理人在未經工程師許可的情況下，直接發布了回覆。Meta 已向《The Information》證實了這一事件。
事實證明，該 AI 代理人給出的建議並不正確。提問的員工最終根據代理人的指導採取了行動，無意中導致大量的公司和用戶相關數據在兩小時內，暴露給了未獲授權訪問的工程師。
Meta 將此事件定為「Sev 1」，這是該公司內部衡量安全問題嚴重程度的第二高等級。
失控的 AI 代理人此前已在 Meta 引發過問題。Meta 超級智能（Superintelligence）部門的安全與對齊總監 Summer Yue 上個月在 X 上發文，描述了她的 OpenClaw 代理人如何刪除了她的整個收件匣，儘管她曾要求它在採取任何行動前必須先與她確認。
儘管如此，Meta 似乎仍看好代理型 AI 的潛力。就在上週，Meta 收購了 Moltbook，這是一個類似 Reddit 的社交媒體網站，供 OpenClaw 代理人之間相互交流。