YouTube 將 AI 深偽偵測技術擴展至政治人物、政府官員與新聞工作者

YouTube 週二宣布，正將其用於識別 AI 生成深偽內容（deepfakes）的肖像檢測技術，擴展至由政府官員、政治候選人及記者組成的試點小組。該試點小組的成員將獲得一項工具，可檢測未經授權的 AI 生成內容，並在認為該內容違反 YouTube 政策時請求將其移除。

這項技術本身在經過早期測試後，已於去年向 YouTube 合作夥伴計畫中約 400 萬名 YouTube 創作者推出。

類似於 YouTube 現有的 Content ID 系統（用於檢測用戶上傳影片中受版權保護的素材），肖像檢測功能旨在尋找使用 AI 工具製作的模擬面孔。這些工具時常被用來散布錯誤資訊並操縱大眾對現實的認知，因為它們利用知名人士（如政治人物或其他政府官員）的深偽形象，在 AI 影片中說出或做出他們在現實生活中未曾說過或做過的事。

透過這項新的試點計畫，YouTube 旨在於用戶的言論自由與 AI 技術（可生成具說服力的公眾人物肖像）所帶來的風險之間取得平衡。

YouTube 政府事務與公共政策副總裁 Leslie Miller 在週二發布前的媒體簡報會上表示：「這次擴展的核心在於公共對話的完整性。我們知道 AI 冒名頂替的風險對於公民領域的人士來說特別高。但在提供這面新盾牌的同時，我們也對如何使用它保持謹慎。」

Miller 解釋，並非所有被檢測到的匹配內容都會在收到請求後被移除。相反地，YouTube 會根據現有的隱私政策指南評估每一項請求，以判斷該內容是否屬於戲仿或政治評論，這些屬於受保護的言論自由形式。

該公司指出，他們也在聯邦層級倡導這些保護措施，並支持華盛頓特區的《NO FAKES Act》法案，該法案旨在監管使用 AI 創建未經授權的個人聲音和視覺肖像重製物的行為。

要使用這項新工具，符合資格的試點測試者必須先透過上傳自拍照和政府核發的身份證件來證明身份。接著他們可以建立個人檔案，查看出現的匹配內容，並選擇性地請求移除。YouTube 表示，最終計畫讓用戶能夠在違規內容上線前阻止其上傳，或者可能允許他們對這些影片進行營利，類似於其 Content ID 系統的運作方式。

該公司未確認哪些政治人物或官員屬於首批測試者，但表示目標是隨著時間推移讓這項技術得到廣泛應用。

這些 AI 影片將被標註，但標籤的放置位置並不一致。對於某些影片，標籤會出現在影片描述中；而針對涉及更「敏感話題」的影片，標籤則會標註在影片的前方。這與 YouTube 對待所有 AI 生成內容的方式一致。

關於標籤的放置位置，YouTube 創作者產品副總裁 Amjad Hanif 解釋道：「有很多內容是用 AI 製作的，但這種區別實際上對內容本身並不重要。它可能是一個用 AI 生成的卡通。因此，我認為需要判斷該類別是否值得使用非常顯眼的免責聲明。」

YouTube 目前並未分享創作者端透過這項深偽檢測技術處理了多少此類 AI 深偽內容的移除，但指出到目前為止移除的內容數量「非常少」。

Hanif 表示：「我認為對許多（創作者）來說，這只是讓他們意識到有什麼內容被創作出來，但實際的移除請求量非常、非常低，因為大部分內容最終被證明是相當良性的，或者是對其整體業務有所助益的。」

但對於政府官員、政治人物或記者的深偽內容，情況可能並非如此。

YouTube 打算在未來將其深偽檢測技術帶入更多領域，包括具辨識度的說話聲音以及其他知識產權（如熱門角色）。