Roblox 推出即時 AI 聊天語句重組功能以過濾違規語言

Roblox 週四宣布，正在推出一項由 AI 驅動的即時聊天改寫功能，該功能會自動將違禁詞彙替換為更具禮貌的語言。

這項新功能超越了 Roblox 目前的文本過濾器，後者僅是簡單地將違禁詞彙和短語替換為「#」符號。但 Roblox 表示，當用戶遇到一連串的「####」時，對話可能會被中斷且難以理解。

現在，過濾後的文本不再只是顯示井字號，而是會被改寫成更具禮貌且貼近用戶原始意圖的語言。

例如，一條寫著「Hurry TF up!」（快他媽的點！）的訊息，以前會顯示為「####」，但現在會被改寫為「Hurry up!」（快一點！）。Roblox 表示，聊天室中的每個人都會收到訊息已被改寫的通知，以保持對話的文明。

「聊天是人們在 Roblox 上聯繫、協調和遊玩的中心，」Roblox 用戶與探索產品副總裁 Rajiv Bhatia 在新聞稿中表示。「即時改寫有助於讓遊戲過程和對話保持在正軌上，同時引導語言走向適當的方向。這種方法減少了聊天中的摩擦，同時維持了有助於保持社群文明的標準。」

Roblox 指出，雖然改寫減少了聊天中的部分干擾，但其安全系統對於更嚴重的行為仍然有效。

這項新功能支援目前透過 Roblox 自動翻譯工具提供的所有語言。

該公司還在升級文本過濾系統，以檢測更多變體的違禁語言。Roblox 表示，早期結果顯示，該系統在檢測「火星文」（leetspeak）以及更複雜的規避過濾嘗試方面變得更加出色。這使得公司在分享或索取個人資訊時，將「偽陰性」（漏報）的發生率降低了 20 倍。

週四的公告發布前不久，Roblox 在德克薩斯州、肯塔基州和路易斯安那州等州檢察長發起一波關於兒童安全的訴訟後，引入了強制性人臉驗證以訪問其平台上的聊天功能。這些訴訟是針對有報告稱 Roblox 讓年輕用戶暴露在危險風險中（如誘拐和顯露內容）而提起的。