OpenAI 發布全新安全藍圖，應對日益嚴重的兒童性剝削問題
OpenAI 發布了兒童安全藍圖，旨在加速偵測與調查利用 AI 進行的兒童剝削行為，同時倡導更新立法並整合預防性安全措施。
為了回應對網路兒童安全日益增長的擔憂，OpenAI 發布了一份藍圖，旨在 AI 蓬勃發展之際加強美國的兒童保護工作。這份於週二發布的《兒童安全藍圖》（Child Safety Blueprint），旨在協助更快地偵測、更完善地通報，並更有效地調查涉及 AI 輔助的兒童剝削案件。
《兒童安全藍圖》的總體目標是解決與 AI 技術進步相關的兒童性剝削案件驚人增長的問題。根據網路觀察基金會（IWF）的數據，2025 年上半年偵測到超過 8,000 件 AI 生成的兒童性虐待內容報告，比前一年增加了 14%。這包括犯罪分子利用 AI 工具生成虛假的兒童露骨圖像進行金錢性勒索，以及生成具說服力的訊息進行誘拐。
OpenAI 的藍圖發布之際，正值政策制定者、教育工作者和兒童安全倡導者加強審查之時，特別是考慮到近期發生了一些令人不安的事件，據稱有青少年在與 AI 聊天機器人互動後自殺身亡。
去年 11 月，社群媒體受害者法律中心（Social Media Victims Law Center）和科技正義法律專案（Tech Justice Law Project）在加州法院提起了七起訴訟，指控 OpenAI 在 GPT-4o 尚未準備就緒前就將其發布。訴訟聲稱，該產品在心理上的操縱性質導致了自殺和協助自殺的非正常死亡。他們引用了四名自殺身亡的個案，以及另外三名在與聊天機器人長期互動後出現嚴重、危及生命的幻覺的個案。
這份藍圖是與美國國家失蹤與受虐兒童保護中心（NCMEC）和檢察總長聯盟（Attorney General Alliance）合作開發的，並參考了北卡羅來納州檢察總長傑夫·傑克遜（Jeff Jackson）和猶他州檢察總長德里克·布朗（Derek Brown）的反饋。
該公司表示，該藍圖側重於三個方面：更新立法以納入 AI 生成的虐待素材、完善向執法部門通報的機制，以及將預防性保護措施直接整合到 AI 系統中。透過這些舉措，OpenAI 的目標不僅是更早地偵測潛在威脅，還要確保可採取行動的資訊能迅速傳達給調查人員。
OpenAI 的新兒童安全藍圖建立在先前的倡議之上，包括針對與 18 歲以下用戶互動的更新指南，該指南禁止生成不當內容或鼓勵自殘，並避免提供可能幫助青少年向監護人隱瞞危險行為的建議。該公司最近也為印度的青少年發布了一份安全藍圖。