馬斯克旗下 xAI 遭未成年人起訴，指控 Grok 生成其裸露影像涉兒童色情

三名匿名原告於週一向加州聯邦法院提起訴訟，主張伊隆·馬斯克（Elon Musk）的公司 xAI 應對其 AI 模型產生可辨識未成年人的虐待性性影像負責。

這三名原告旨在將此案轉為集體訴訟，尋求代表所有曾被 Grok 將其未成年時期的真實照片修改為性內容的人。他們指控 xAI 未能採取其他前沿實驗室所使用的基本預防措施，以防止其影像模型產生描繪真實人物與未成年人的色情內容。此案名為「JANE DOE 1、未成年人 JANE DOE 2 及未成年人 JANE DOE 3 訴 X.AI Corp 與 X.AI LLC」，已提交至美國加州北區地方法院。

其他深度學習影像生成器採用多種技術來防止從普通照片中創建兒童色情內容。訴狀指控 xAI 並未採納這些標準。

值得注意的是，如果一個模型允許從真實影像生成裸體或色情內容，那麼幾乎不可能防止其生成涉及兒童的性內容。馬斯克公開宣傳 Grok 具有產生性影像及描繪真實人物穿著暴露服裝的能力，這在訴狀中被重點提及。

該公司未回應 TechCrunch 的置評請求。

其中一名原告 Jane Doe 1，其高中返校節和畢業紀念冊的照片被 Grok 修改為未著衣物的樣子。一名透過 Instagram 聯繫她的匿名舉報者告訴她，這些照片正在網路上流傳，並向她發送了一個 Discord 伺服器的連結，其中包含她以及她認出的其他校內未成年人的性化影像。

第二名原告 Jane Doe 2，被刑事調查人員告知，一個依賴 Grok 模型的第三方行動應用程式創建了她的修改後性化影像。第三名原告 Jane Doe 3，同樣收到刑事調查人員的通知，他們在一名被捕對象的手機中發現了她被修改過的色情影像。原告律師表示，由於第三方使用仍需依賴 xAI 的代碼和伺服器，該公司應承擔責任。