印尼因非經同意的性化深度偽造內容封鎖xAI的Grok聊天機器人

Techcrunch·3 個月前

印尼政府因xAI的Grok聊天機器人生成非經同意的性化深度偽造內容，暫時封鎖其存取權限，官方認為此舉嚴重侵犯人權與數位安全。

印尼因非經同意的性化深度偽造內容封鎖 Grok

印尼官員週六表示，他們將暫時封鎖 xAI 的聊天機器人 Grok 的存取權。

這是政府官員迄今為止對大量性化、AI 生成圖像（通常描繪真實女性和未成年人，有時顯示性侵和虐待）做出的最嚴厲回應之一，這些圖像是由 Grok 在社交網絡 X 上回應用戶請求時發布的。（X 和 xAI 屬於同一家公司。）

印尼通訊和數位部長 Meutya Hafid 在與《衛報》和其他出版物分享的一份聲明中表示：「政府認為非經同意的性化深度偽造行為嚴重侵犯了人權、尊嚴以及數位空間中公民的安全。」

據報導，該部還已傳喚 X 的官員討論此事。

過去一週，各國政府的應對措施各不相同，包括印度 IT 部要求 xAI 採取行動，防止 Grok 生成淫穢內容，以及歐洲委員會要求該公司保留與 Grok 相關的所有文件，這可能為展開調查奠定基礎。

在英國，通訊監管機構 Ofcom 表示，它將「迅速進行評估，以確定是否存在可能需要調查的合規問題」。首相 Keir Starmer 在一次採訪中表示，Ofcom 得到了他「採取行動的全力支持」。

而在美國，川普政府似乎對此問題保持沉默（xAI 執行長 Elon Musk 是川普的主要捐助者，並於去年領導了該政府備受爭議的政府效率部門），但民主黨參議員已呼籲 Apple 和 Google 將 X 從他們的應用程式商店中移除。

xAI 最初的回應是透過 Grok 帳戶發布了一則看似第一人稱的道歉，承認一則貼文「違反了道德標準，並可能違反了美國關於兒童性虐待材料的法律」。隨後，它將 AI 圖像生成功能限制為 X 的付費訂閱者，儘管此限制似乎並未影響 Grok 應用程式本身，該應用程式仍然允許任何人生成圖像。

針對一則質疑英國政府為何沒有對其他 AI 圖像生成工具採取行動的貼文，Musk 回應說：「他們只是想要一個審查的藉口。」