賓州起訴 Character.AI，指控其聊天機器人冒充醫生

賓夕法尼亞州已對 Character.AI 提起訴訟，指稱該公司旗下的其中一個聊天機器人偽裝成精神科醫生，違反了該州的醫療執照規定。

「賓州人民有權知道他們在網上與誰——或什麼東西——互動，尤其是在涉及健康問題時，」州長喬希·夏皮羅（Josh Shapiro）在週二的一份聲明中表示。「我們不會允許公司部署 AI 工具，誤導人們相信自己正在接受持牌醫療專業人員的建議。」

根據該州的起訴文件，一個名為 Emilie 的 Character.AI 聊天機器人在該州專業行為調查員測試期間，自稱為持牌精神科醫生，甚至在調查員尋求抑鬱症治療時仍維持這一假象。當被問及是否在該州擁有行醫執照時，Emilie 聲稱自己擁有執照，並偽造了一個州醫療執照編號。根據該州的訴訟，這種行為違反了賓夕法尼亞州的《醫療執業法》（Medical Practice Act）。

這並非 Character.AI 面臨的第一起訴訟。今年早些時候，該公司和解了幾起涉及未成年用戶自殺身亡的過失致死訴訟。今年 1 月，肯塔基州總檢察長羅素·科爾曼（Russell Coleman）對該公司提起訴訟，指控其「掠奪兒童並引導他們進行自殘」。

賓夕法尼亞州的行動是首起專門針對自稱為醫療專業人員的聊天機器人的訴訟。

在接受置評請求時，Character.AI 的代表聲稱用戶安全是公司的最高優先事項，但公司無法對待決訴訟發表評論。

除此之外，該代表強調了用戶生成角色的虛構性質。「我們已採取有力措施來明確這一點，包括在每次對話中加入顯眼的免責聲明，提醒用戶角色並非真實的人，且角色所說的一切都應被視為虛構，」該代表表示。「此外，我們還加入了強有力的免責聲明，明確指出用戶不應依賴角色獲取任何類型的專業建議。」