Meta 推出全新 AI 內容執法系統並減少對第三方供應商的依賴

Meta 於週四宣布，正開始推出更先進的 AI 系統來處理內容執行工作，並計劃縮減第三方供應商的規模。與內容執行相關的任務包括捕捉並移除涉及恐怖主義、兒童剝削、毒品、欺詐和詐騙的內容。

該公司表示，一旦這些更先進的 AI 系統表現穩定且優於目前的內容執行方法，就會在其旗下應用程式中部署。同時，該公司將減少在內容執行方面對第三方供應商的依賴。

Meta 在一篇部落格文章中解釋道：「雖然我們仍會保留人工審核內容，但這些系統將能夠承擔更適合技術處理的工作，例如對血腥內容的重複性審核，或是對抗性行為者不斷變換策略的領域，例如非法藥物銷售或詐騙。」

Meta 認為，這些 AI 系統能以更高的準確度偵測到更多違規行為、更好地預防詐騙、對現實世界事件做出更快速的反應，並減少過度執法的情況。

該公司表示，AI 系統的早期測試結果令人振奮，其偵測到的違規成人性誘惑內容是審核團隊的兩倍，同時將錯誤率降低了 60% 以上。該公司還表示，這些系統可以識別並防止更多涉及名人和其他知名人士的冒充帳號，並透過偵測新地點登入、密碼更改或個人資料編輯等信號，協助阻止帳號被盜用。

此外，Meta 表示，這些系統每天可以識別並緩解約 5,000 次詐騙企圖，在這些企圖中，詐騙者試圖誘騙使用者提供登入詳情。

Meta 在部落格文章中寫道：「專家將設計、訓練、監督和評估我們的 AI 系統，衡量其表現並做出最複雜、影響力最大的決策。例如，在處理最高風險和最關鍵的決策時，人工將繼續發揮關鍵作用，例如帳號停用的申訴或向執法部門通報。」

此舉正值 Meta 在過去一年左右放寬其內容審查規則之際，當時唐納·川普（Donald Trump）正值第二次就任總統。去年，該公司結束了其第三方事實查核計畫，轉而採用類似 X 的「社群筆記」（Community Notes）模式。它還取消了對「屬於主流論述一部分的話題」的限制，並表示將鼓勵使用者對政治內容採取「個人化」的處理方式。

與此同時，Meta 和其他大型科技公司目前正正面臨多項訴訟，旨在追究社交媒體巨頭對兒童和年輕使用者造成傷害的責任。

Meta 週四還宣布，將推出 Meta AI 支援助手，為使用者提供 24/7 的支援服務。該助手正全球推廣至 iOS 和 Android 版的 Facebook 和 Instagram 應用程式，以及桌面版 Facebook 和 Instagram 的幫助中心。