ChatGPT 的成人模式可能引發親密監控的新時代

Julie Carpenter 完全不責怪人類使用者將聊天機器人擬人化。身為資深的人機互動專家及《The Naked Android》一書的作者，她認為像 ChatGPT 這樣的生成式 AI 工具，其設計初衷就是透過高度個人化的記憶與模擬社交體驗的互動，來誘發使用者的這些反應。

當 AI 生成的色情內容成為選項時，這些單向的連結可能會變得更加複雜，甚至可能帶來災難。Carpenter 對 OpenAI 允許成年人與 ChatGPT 進行性愛簡訊（sexting）的即將到來的計劃感到憂慮。「我支持人們探索自己的性取向，但我希望這是在對他們既安全又有趣的情況下進行，」她說。「人們必須非常清楚，這些數據存在著監控的面向。」

OpenAI 兩年前在一份描述其模型行為設計的官方文件中，首次暗示將允許成年使用者利用 ChatGPT 生成色情內容。雖然該公司似乎仍計劃最終發布此功能，但時間表尚不明確。根據《華爾街日報》的一篇報導，近幾個月來，OpenAI 的外部專家顧問委員會對這項即將發布的功能所帶來的風險表示擔憂，其中包括出現「性感自殺教練」的可能性。當《連線》（WIRED）聯繫 OpenAI 時，該公司拒絕置評。

人類對機器（如 ChatGPT）說淫穢的話並非新鮮事。「他們想將他們預見人們無論如何都會嘗試去做的事情貨幣化，」倫敦國王學院 AI 與社會教授 Kate Devlin 說，她的研究涉及數位性愛。

這裡的不同之處在於，OpenAI 可能會在主流平台上擁抱色情內容。色情聊天機器人是一項驅動營收的業務，但它們通常被放逐到名稱平庸的小眾網站，或是伊隆·馬斯克（Elon Musk）的 Grok——後者因未經同意的深度偽造（deepfake）圖像以及進入「機甲希特勒」（MechaHitler）模式而聞名。

當成人模式發布時，觀察 ChatGPT 究竟會記得使用者哪些性偏好將會很有趣。在過去幾年中，OpenAI 持續改進聊天機器人的記憶功能，該功能會記錄使用者偏好並提供個人化的輸出。你是素食主義者嗎？當詢問餐廳建議時，ChatGPT 不會推薦牛排館。想去健行嗎？它從過去的對話中知道你在舊金山，即使提示詞中沒有包含位置背景，它也會建議距離適中的步道。

但是，當這種類型的數據記錄和超精準的個人化，遇上數百萬成年 ChatGPT 使用者渴望性愛簡訊的習慣時，會發生什麼事？與 ChatGPT 的色情互動將進一步提高使用者隱私的風險。

ChatGPT 可能不再只是記住你的飲食偏好或你最喜歡哪種類型的電影，而是可能回想起你對獸迷色情（furry porn）、海灘三人行或聖水癖（piss play）有多少幻想，並在日常回應中考慮到這些性細節。目前尚不清楚 OpenAI 計劃如何處理這些成人對話。

在功能推出時選擇與色情版 ChatGPT 互動的人，可能會在「臨時聊天」（temporary chats）功能中找到慰藉。啟用此功能後，對話不會顯示在用戶的紀錄歷史中，也不會用於改進 OpenAI 的模型。

但這些聊天並不像使用者感覺的那樣轉瞬即逝。「出於安全目的，我們仍可能保留副本長達 30 天，」OpenAI 的網站上寫道。網站頁面上還有一份免責聲明，聲稱「某些服務的數據保留可能會受到近期法律發展的影響」。

色情 AI 聊天實現了一種親密監控，其程度超越了某人的色情片觀看紀錄或他們在 OnlyFans 上訂閱了誰。細節更加具體。互動可能會在數月內升級為越來越極端的幻想。那些你最初從未考慮過，或永遠不會向人類伴侶表達的幻想。

雖然互動感覺很私密，但數據仍然是一個重大風險。如果帳號被駭、發生安全漏洞，或者政府官員要求存取你的聊天紀錄，大量高度敏感且具性暗示的對話可能會以使用者從未想像過的方式被曝光。

有關使用者與 ChatGPT 互動的資訊先前曾發生洩漏或無意中被公開。2023 年，當一個漏洞暴露了部分使用者的聊天紀錄標題時，OpenAI 曾短暫關閉 ChatGPT。「如果兩位使用者在同一時間都很活躍，新建立對話的第一條訊息也有可能出現在別人的聊天紀錄中，」OpenAI 當時的聲明中寫道。去年，多個 ChatGPT 互動被使用者無意中公開，因為他們沒有意識到自己的分享設定會讓 Google 搜尋索引這些對話，讓任何人都能發現。

「你正在分享最私密的性想法，因為你沉浸在那個當下，」Carpenter 說。「你在那種情況下是很脆弱的，因為你誤以為自己處於這個酷炫、具變革性、幾乎是共同建構的創意空間中，這似乎是練習性幻想的一個絕佳方式。」