newsence
每天百場視訊通話:模特兒正應徵成為 AI 詐騙的門面

每天百場視訊通話:模特兒正應徵成為 AI 詐騙的門面

Wired - AI·20 天前

WIRED 審閱的數十個 Telegram 頻道中包含 AI 臉部模特兒的招聘資訊。應徵這些職位的(多數為)女性很可能被利用來騙取受害者的錢財。

在應徵工作時,Angel 大談自己的語言能力。「我能說流利的英語,中文也很好,還會說俄語和土耳其語,」這位迷人的 24 歲烏茲別克女性在一段為招聘人員製作的自拍影片中解釋道。她說,Angel 當天剛抵達柬埔寨城市西哈努克(Sihanoukville),準備立即開始工作。

然而,這些令人印象深刻的語言技能,很可能已被用於針對美國人的精心策劃的「殺豬盤」詐騙中。這是因為,Angel 並非在應徵傳統的企業職位,而是自薦擔任「AI 臉部模特兒」——整天坐在電腦前,撥打深偽(deepfake)視訊電話來操縱潛在的詐騙受害者。她的應徵資料中還要求提供身高體重,並註明她已經累積了「1 年 AI 模特兒經驗」。

Angel 在這條道路上絕非孤身一人。連線雜誌(WIRED)審閱了發布在 Telegram 上的數十段招聘影片和職位廣告,顯示來自世界各地的人們——包括土耳其、俄羅斯、烏克蘭、白俄羅斯和多個亞洲國家——正在應徵柬埔寨和東南亞的 AI 模特兒或「真人臉部」模特兒。該地區已成為龐大、工業化詐騙行動的基地,這些行動囚禁了數千名人口販運受害者,強迫他們進行網路加密貨幣投資和情感詐騙。

除了誘騙人們進入詐騙園區工作外,這些高科技、價值數十億美元的犯罪企業還能吸引人們主動尋求成為行動一部分的「工作」。越南反詐騙非營利組織 ChongLuaDao 的網路犯罪調查員 Hieu Minh Ngo 表示:「從去年到今天,他們也在招聘人員從事 AI 建模。他們會提供軟體,讓員工可以利用 AI 換臉來進行情感詐騙。」

Ngo 曾是一名犯罪駭客,現已改邪歸正,專門追蹤詐騙園區活動並支援受害者。他在 Telegram 上發現了約二十個頻道,發布了該地區 AI 模特兒的招聘訊息。反人口販運組織「人性研究諮詢公司」(Humanity Research Consultancy)也追蹤到人們在 Telegram 上應徵「知名詐騙中心城市」的「模特兒」和「AI 模特兒」職位,其中包括 Angel 的申請。

AI 模特兒的興起,正值網路罪犯廣泛採用 AI 並將換臉技術作為其網路詐騙手段之際。通常,詐騙者會使用虛假人格在社交媒體或通訊平台上聯繫潛在受害者。他們經常使用名人或帥哥美女的盜圖來誘使對方交談。

一旦建立聯繫,他們就會發動情感攻勢以建立關係,然後再試圖讓對方掏出錢財。在某些情況下,可能有多個人共同控制詐騙帳號,並以單一虛假人格向受害者發送訊息。但如果潛在受害者在互動過程中要求視訊通話——例如為了確認對話者是否真實——這就是深偽視訊通話和換臉模特兒派上用場的時候。一些東南亞詐騙中心設有專門的「AI 房」來撥打這些電話。

連線雜誌審閱的 AI 模特兒或「真人模特兒」招聘廣告要求極長的工作時間,幾乎沒有休息時間,且日程安排緊湊。廣告通常由頻道管理員發布,不包含聯繫方式,也不列出具體的雇主。一份據稱是六個月合約的招聘貼文稱,應徵者需要每天發送照片、進行視訊和語音通話,並製作音訊和影片訊息。貼文寫道:「每天大約 100 通視訊電話。」

其他貼文列出的潛在通話量甚至高達每天 150 通。另一則廣告寫道:「可以使用濾鏡,但要確保圖像真實。允許實景影片;禁止佩戴假髮。」為了這份「特權」,據稱該員工每月可獲得一天全假和四個半天假。還有另一則廣告將柬埔寨的工作時間列為晚上 10 點到早上 10 點,並優先考慮具有「西方口音」的人。一則模特兒職位廣告稱:「公司將保留您的護照,以便辦理簽證和工作許可。」沒收護照是詐騙園區經營者囚禁人員的主要手段之一。

雖然有少數男性應徵 AI 模特兒職位,但連線雜誌看到的絕大多數申請都來自年輕女性,大多二十出頭。申請人被要求發送一段簡短的自我介紹影片、關於經驗和期望的文字以及照片;有些還被要求提供婚姻狀況和「疫苗接種」情況。

「三年多來,我一直與中國公司合作開展不同類型的項目,包括股市、加密貨幣和愛情故事,」一個人在招聘影片中說道。另一位則說:「根據我的經驗,我很擅長處理客戶,我用自己的技巧說服他們投資,並討論黃金交易如何讓他們獲益。」

影片申請中不包含全名或聯繫方式,因此連線雜誌無法聯繫到這些應徵者。

根據人性研究諮詢公司的數據,模特兒申請人要求的月薪高達 7,000 美元。他們還對工作條件提出了具體要求,其中許多要求對於被販運到詐騙行動中的人來說可能是無法享受的。一名女性要求擁有獨立房間且「可以外出」。另一名則要求「休息日可以回家」並擁有「個人洗衣機」。

非營利組織 EOS collective 的聯合創始人 Ling Li 表示,雖然有些模特兒是被招募來工作的,可能比人口販運受害者擁有更多自由,但他們仍可能面臨老闆的嚴酷對待。該組織致力於幫助詐騙產業的受害者。她說:「一位歐洲受害者告訴我們,他在園區裡看到了一些義大利模特兒,但他無法判斷他們是否自願在那裡,因為他們在他面前被打。而且還存在一些性騷擾。」

連線雜誌向 Telegram 發送了一份包含二十個職位頻道和招聘頻道的清單,這些頻道近幾個月來一直在廣告 AI 模特兒及其他職位。該公司似乎沒有移除任何頻道;然而,一位發言人表示,其政策不允許發生與詐騙相關的活動。

Telegram 的發言人表示:「Telegram 的服務條款明確禁止鼓勵或促成詐騙的內容,一旦發現就會移除。在這種情況下,人們提供自己的肖像可能存在合法理由,因此此類內容必須逐案審查。」

Ngo 表示,Telegram 上絕大多數的模特兒職位廣告和申請都沒有明確提到詐騙工作,但它們包含了一系列預示詐騙的紅旗警告。Ngo 說:「為什麼需要 AI 模特兒?這是第一個問題。」他指出,其他警示信號還包括工作地點位於柬埔寨知名的詐騙地點、相對於該地區極高的薪資要求,以及頻繁要求的中文能力。

根據研究人員和連線雜誌對貼文的審閱,廣告和影片申請中還包含與詐騙密切相關的語言。這包括頻繁提到「客戶」(clients),這是詐騙行動用來代替「受害者」的術語,以及頻繁提到加密貨幣投資或黃金交易。一名自稱擔任 AI 模特兒和「真人臉部」模特兒 18 個月的人表示,他們之前的工作涉及說服人們投資:「我真的很懂得如何與客戶進行良好的溝通,如何讓他們信任我們,如何給他們發送好看的照片,以及如何讓他們開懷大笑。」

然而,有些貼文更為露骨,將應徵的「工作市場」列為:「情感詐騙」(love scam)。另一則貼文描述一個人的經驗為:「在加密貨幣詐騙平台擔任 3 年客戶服務(殺手)。」

在 Frank McKenna 的母親去年開始收到關於投資的詐騙簡訊後,他開始攔截這些訊息並與發送者交談。McKenna 是反詐騙軟體公司 Point Predictive 的首席策略師,他一直密切追蹤「AI 模特兒」。他說他想了解他們是如何運作的,於是安排了他們與他母親之間的視訊通話。

McKenna 說:「那次通話的唯一目的就是證明他們是真人並贏得信任。」他說,在通話過程中,鏡頭前的年輕女性似乎在臉上使用了 AI 濾鏡。「畫面有點閃爍。房間裡還有其他人,所以有回音,」他說。「然後我們又與另一個 AI 模特兒進行了簡短的通話。」

McKenna 說,大約一個月後,他在網上看到了似乎是同一位模特兒的招聘影片,說她正在尋找新合約,因為舊合約已到期。「這些 AI 模特兒的世界似乎很小,他們似乎完全自願地從一個地方跳到另一個地方,賺著相當不錯的錢,」McKenna 說。「他們可能整天都在視訊房裡,與無數不同的受害者通話。」

https://wired.com/story/models-are-applying-to-be-the-face-of-ai-scams/