YouTube 為政治人物、政府官員及記者擴大 AI 深偽偵測功能

YouTube 週二宣布，正將其用於識別 AI 生成深偽內容的肖像檢測技術（likeness detection technology），擴大開放給由政府官員、政治候選人及記者組成的試點小組。該試點小組的成員將獲得一項工具，可檢測未經授權的 AI 生成內容，若他們認為該內容違反 YouTube 政策，可請求將其移除。

這項技術本身在經過早期測試後，已於去年向 YouTube 合作夥伴計畫中約 400 萬名 YouTube 創作者推出。

類似於 YouTube 現有的 Content ID 系統（用於檢測用戶上傳影片中受版權保護的素材），肖像檢測功能旨在尋找由 AI 工具製作的模擬面孔。這些工具時常被用來散布錯誤資訊並操縱大眾對現實的認知，因為它們利用知名人物（如政治人物或其他政府官員）的深偽形象，在 AI 影片中說出或做出他們在現實生活中並未做過的事。

透過這項新的試點計畫，YouTube 旨在於用戶的言論自由與 AI 技術（可生成令人信服的公眾人物肖像）所帶來的風險之間取得平衡。

YouTube 政府事務與公共政策副總裁 Leslie Miller 在週二發布前的媒體簡報中表示：「這次擴展的核心在於公共對話的完整性。我們深知 AI 冒名頂替的風險對於公民領域的人士而言特別高。但在提供這面新盾牌的同時，我們對於如何使用它也保持謹慎。」

Miller 解釋說，並非所有被檢測到的匹配內容都會在收到請求後被移除。相反地，YouTube 會根據現有的隱私政策準則評估每項請求，以判斷該內容是否屬於惡搞（parody）或政治評論，這些皆屬於受保護的言論自由形式。

該公司指出，他們也在聯邦層級倡導這些保護措施，並支持華盛頓特區的《NO FAKES Act》法案，該法案旨在監管使用 AI 創建未經授權的個人聲音和視覺肖像重製行為。

要使用這項新工具，符合資格的試點測試人員必須先透過上傳自拍照和政府核發的身份證件來證明身份。接著，他們可以建立個人檔案，查看出現的匹配內容，並可選擇請求移除。YouTube 表示，計畫最終讓用戶有能力在違規內容上線前阻止其上傳，或者可能允許他們對這些影片進行營利，運作方式類似於其 Content ID 系統。

該公司未確認首批測試者包含哪些政治人物或官員，但表示目標是隨著時間推移讓這項技術得到廣泛應用。

這些 AI 影片將被標註標籤，但標籤的放置位置並不一致。對於某些影片，標籤會出現在影片說明中；而針對涉及較「敏感話題」的影片，標籤則會標註在影片的前方。這與 YouTube 對待所有 AI 生成內容的方式一致。

YouTube 創作者產品副總裁 Amjad Hanif 在解釋標籤位置時表示：「有很多內容是用 AI 製作的，但這種區別實際上對內容本身並不重要。它可能是一個用 AI 生成的卡通。因此，我認為需要判斷該類別是否值得使用非常顯眼的免責聲明。」

YouTube 目前並未分享創作者透過這項深偽檢測技術處理了多少此類 AI 深偽內容的移除，但指出到目前為止移除的內容數量「非常少」。

Hanif 說：「我認為對許多（創作者）來說，這只是為了了解有哪些內容被創作出來，但實際的移除請求量非常、非常低，因為大部分內容最終被證明是相當良性的，或者是對其整體業務有所助益的。」

然而，對於政府官員、政治人物或記者的深偽內容，情況可能並非如此。

YouTube 打算在未來將其深偽檢測技術擴展到更多領域，包括具辨識度的說話聲音以及其他知識產權（如熱門角色）。