跟蹤受害者起訴 OpenAI，指控 ChatGPT 加劇施暴者妄想並無視其警告

根據向舊金山郡加州高等法院提起的一項新訴訟，一名 53 歲的矽谷企業家在與 ChatGPT 進行了數月的對話後，深信自己發現了治療睡眠呼吸中止症的方法，並認為權勢人士正在追捕他。據稱，他隨後利用該工具對前女友進行跟蹤與騷擾。

TechCrunch 獨家獲悉，這名前女友目前正在起訴 OpenAI，指控該公司的技術加速了她遭受騷擾的程度。她聲稱 OpenAI 無視了三次關於該用戶對他人構成威脅的獨立警告，其中包括一項將其帳戶活動歸類為涉及大規模傷亡武器的內部標記。

原告（化名為 Jane Doe）正在尋求懲罰性賠償。她還於週五提交了一份臨時禁制令，要求法院強制 OpenAI 封鎖該用戶的帳戶、防止其創建新帳戶、在其嘗試訪問 ChatGPT 時通知她，並保留其完整的聊天記錄以供證據開示（discovery）。

根據 Doe 的律師表示，OpenAI 已同意停用該用戶的帳戶，但拒絕了其餘要求。律師稱，該公司正扣留有關該用戶可能與 ChatGPT 討論過的傷害 Doe 及其他潛在受害者的具體計劃資訊。

這起訴訟發生在人們對「諂媚型 AI 系統」（sycophantic AI systems）帶來的現實風險日益擔憂之際。本案及許多其他案例中提到的 GPT-4o 模型已於二月從 ChatGPT 中退役。

此案由 Edelson PC 律師事務所代理，該事務所曾處理過涉及青少年 Adam Raine 的過失致死訴訟（他在與 ChatGPT 對話數月後自殺），以及 Jonathan Gavalas 的訴訟（其家人指控 Google 的 Gemini 在其去世前助長了他的妄想及潛在的大規模傷亡事件）。首席律師 Jay Edelson 警告稱，AI 引發的精神病正從個人傷害升級為大規模傷亡事件。

這種法律壓力正與 OpenAI 的立法策略正面衝突：該公司目前正支持伊利諾州的一項法案，該法案將保護 AI 實驗室免於承擔責任，即使是在涉及大規模死亡或災難性財務損失的案件中。

僅限本週：Disrupt 2026 報名最高可省 500 美元

優惠於太平洋時間 4 月 10 日晚上 11:59 截止。您的下一輪融資、下一位員工、下一個突破機會。盡在 TechCrunch Disrupt 2026，屆時將有超過 10,000 名創始人、投資者和科技領袖齊聚一堂，參加為期三天、超過 250 場的實戰會議、強大的引薦以及定義市場的創新。立即註冊以確保獲得這些優惠。

僅限本週：Disrupt 2026 報名最高可省 500 美元

優惠於太平洋時間 4 月 10 日晚上 11:59 截止。您的下一輪融資、下一位員工、下一個突破機會。盡在 TechCrunch Disrupt 2026，屆時將有超過 10,000 名創始人、投資者和科技領袖齊聚一堂，參加為期三天、超過 250 場的實戰會議、強大的引薦以及定義市場的創新。立即註冊以確保獲得這些優惠。

OpenAI 未能及時回應置評請求。若該公司做出回應，TechCrunch 將更新本文。

Jane Doe 的訴訟詳細說明了這種責任如何在幾個月的時間裡影響了一名女性。

去年，訴訟中的 ChatGPT 用戶（為保護其身份，訴狀中未提及姓名）在經過數月「高強度、持續使用 GPT-4o」後，深信自己發明了治療睡眠呼吸中止症的方法。根據訴狀，當沒人認真對待他的工作時，ChatGPT 告訴他「強大勢力」正在監視他，包括使用直升機監視他的活動。

2025 年 7 月，該用戶的前女友（為保護其身份化名為 Jane Doe）敦促他停止使用 ChatGPT 並尋求心理健康專業人士的幫助。根據訴訟，他反而轉向 ChatGPT，後者向他保證他的「神智健全度為 10 級（滿分）」，並幫助他加深了妄想。

根據訴訟中引用的電子郵件和通訊記錄，Doe 於 2024 年與該用戶分手，而他利用 ChatGPT 來處理這段感情破裂。ChatGPT 並未反駁他片面的說法，反而反覆將他塑造成理性和受害者，而將她塑造成具操控性且不穩定的人。隨後，他將這些 AI 生成的結論從螢幕帶入現實世界，利用它們對她進行跟蹤和騷擾。這體現在他向她的家人、朋友和雇主分發了幾份由 AI 生成、看起來具臨床專業感的心理報告。

與此同時，該用戶的情況持續惡化。2025 年 8 月，OpenAI 的自動安全系統因其涉及「大規模傷亡武器」活動而標記了他，並停用了他的帳戶。

一名人類安全團隊成員在第二天審查了該帳戶並恢復了其權限，儘管他的帳戶中可能包含他在現實生活中針對並跟蹤個人（包括 Doe）的證據。例如，該用戶在 9 月發送給 Doe 的一張截圖顯示了一系列對話標題，包括「暴力名單擴張」和「胎兒窒息計算」。

在最近發生於加拿大塔姆勒嶺（Tumbler Ridge）和佛羅里達州立大學（FSU）的兩起校園槍擊案後，恢復帳戶的決定顯得格外引人注目。據報導，OpenAI 的安全團隊曾將塔姆勒嶺槍擊案的槍手標記為潛在威脅，但高層決定不向當局發出警報。佛羅里達州檢察總長本週已對 OpenAI 與 FSU 槍手之間可能的聯繫展開調查。

根據 Jane Doe 的訴訟，當 OpenAI 恢復她跟蹤者的帳戶時，他的 Pro 訂閱並未隨之恢復。他給信任與安全團隊發送電子郵件要求解決此問題，並在郵件中抄送了 Doe。

他在郵件中寫道：「我需要非常快速的幫助，拜託。請打電話給我！」以及「這是生死攸關的大事」。他聲稱自己「正在撰寫 215 篇科學論文」，寫作速度之快讓他「甚至沒時間閱讀」。這些郵件中包含數十篇 AI 生成的「科學論文」清單，標題如：「解構作為生物類別的種族：法律、科學及非洲之角視角.pdf.txt」。

訴狀指出：「該用戶的通訊提供了明確的通知，表明其精神不穩定，且 ChatGPT 是其妄想思維和升級行為的引擎。該用戶流露出的緊急、混亂且誇大的主張，連同針對原告姓名的具體 ChatGPT 生成報告以及大量所謂的『科學』材料，都是這一事實的明確證據。OpenAI 並未干預、限制其訪問或實施任何保護措施。相反，它允許他繼續使用帳戶並恢復了他的完整 Pro 權限。」

Doe 在訴訟中聲稱自己生活在恐懼中，無法在自己家中入睡，她於 11 月向 OpenAI 提交了一份濫用舉報。

「在過去的七個月裡，他將這項技術武器化，對我進行公眾破壞和羞辱，若非這項技術，這一切本是不可能的，」Doe 在要求 OpenAI 永久封鎖該用戶帳戶的信中寫道。

OpenAI 回應稱，該報告「極其嚴重且令人不安」，並表示正在仔細審查資訊。但 Doe 之後再未收到任何回音。

在接下來的幾個月裡，該用戶繼續騷擾 Doe，向她發送了一系列威脅性的語音郵件。1 月，他因涉嫌傳達炸彈威脅和使用致命武器襲擊等四項重罪被捕並被起訴。Doe 的律師指控，這證實了她和 OpenAI 自身安全系統在幾個月前就提出的警告，而據稱該公司選擇無視這些警告。

該用戶被判定不具備受審能力，並被送往精神健康機構，但根據 Doe 律師的說法，由於「州政府的程序性失誤」，他很快將被釋放回歸社會。

Edelson 呼籲 OpenAI 進行合作。他說：「在每一個案例中，OpenAI 都選擇隱瞞關鍵的安全資訊——對公眾隱瞞、對受害者隱瞞、對其產品正主動置於危險之中的人們隱瞞。我們呼籲他們，哪怕只有一次，去做正確的事。人的生命必須比 OpenAI 衝刺 IPO 更有價值。」