newsence
青少年正利用 AI 驅動的誹謗專頁嘲諷老師

青少年正利用 AI 驅動的誹謗專頁嘲諷老師

Wired - AI·25 天前

TikTok 和 Instagram 上由學生經營的熱門帳號正利用 AI 工具製作迷因,將學校教職員與傑佛瑞·艾普斯坦和班傑明·納坦雅胡等人物進行對比以進行嘲諷。

影片開頭是一名學區總監正對嘴唱著一首情歌,但他並非唯一的表演者。

以色列總理納坦雅胡(Benjamin Netanyahu)與已故性犯罪者傑弗里·艾普斯坦(Jeffrey Epstein)的 AI 生成版本也加入了這首情歌——這段影片剪輯自威爾·約瑟夫·庫克(Will Joseph Cook)的《Be Around Me》以及 TikTok 上貝絲·麥卡錫(Beth McCarthy)改編的版本——艾普斯坦在影片中對嘴唱著:「我的天啊,他剛才是叫她寶貝嗎,或許吧?」(Oh my god, did he call her baby, maybe?)

這段發布在 Instagram 帳號 @thewyliefiles 的短片已獲得超過 10.7 萬次點讚。其貼文說明讀起來就像是大型語言模型對德州科林郡懷利獨立學區(Wylie Independent School District)的簡介,誇耀其「強大的學術實力」和「廣泛的課外活動」,而該名唱歌的總監曾任職於此。一則熱門評論寫道:「發現寶藏!(Gem alarm!)」,暗示路過的網友在日常刷手機時挖到了金礦。

這段惡搞影片只是 Instagram 和 TikTok 上一種新型 AI 影片迷因趨勢的縮影。學生們發明這種方式來嘲諷學校教職員,有時甚至攻擊他們的名譽,似乎純粹是為了追求病毒式傳播。這些主要由學生經營的帳號在網路上被暱稱為「誹謗專頁」(slander pages)。它們是普通高中惡作劇的數位變體,但潛在的後果風險要高得多。

這些「誹謗專頁」的貼文使用了源自網路陰暗角落的俚語。「外貌優化」(Looksmaxxing)術語——源自教導男性如何變得更有吸引力的男性圈(manosphere)論壇——在這些迷因中隨處可見,包括像「mog」(指在長相上完全壓制另一名男性)和「sub5」(指醜到不像人類的人)等詞彙。

部分「誹謗」影片使用了 AI 圖轉影工具 Viggle AI,該工具讓創作者能將任何被拍攝者的臉部植入任何參考影片中,並能將靜態圖像轉化為對嘴影片格式。倫敦國王學院的學術研究機構「全球極端主義與技術網絡」(Global Network on Extremism and Technology)在最近的一篇部落格文章中,將 Viggle AI 描述為「自發性極端主義宣傳創作的新前沿」。截至今年 2 月,該平台聲稱擁有超過 4,000 萬用戶。Viggle AI 未回應置評請求。

在 TikTok 上一段已被刪除的 Viggle AI「誹謗」影片中,一名老師的臉被疊加在一個在浴室抽搐的人身上。影片字幕寫著:「要麼吸芬太尼,要麼當廢物」,將癲癇發作標籤為吸食芬太尼後的快感。

這些專頁背後的發布者還使用了變形的極端主義符號。在一個案例中,某些老師被允許進入虛構的「雅戈泰」(Agartha)領域,這是新納粹神秘主義中的關鍵設定,在那裡每個人都是白人且金髮。影片剪輯中,教職員被賦予發光的白眼表示獲准進入雅戈泰,或是被賦予紅眼表示被拒之門外。

在德州克蘭德爾(Crandall)的克蘭德爾高中,情況變得更加極端。一個名為 @crandall.kirkinator 的熱門 TikTok 帳號所製作的迷因已經突破了當地用戶圈,吸引了擁有數十萬粉絲、且與該校毫無關聯的 TikTok 創作者加入,放大對克蘭德爾老師的「誹謗」。病毒式影片甚至演出了校方管理人員斥責製作這些貼文的學生的情境。

克蘭德爾高中的管理人員拒絕對此事發表評論,但在 1 月底,@crandall.kirkinator TikTok 帳號上的所有內容都被清空,取而代之的是一份聲明,承認相關的 Instagram 帳號已被刪除。聲明寫道:「我的 Instagram 帳號並非被封鎖,而是由我自願刪除的……有些老師遭到陌生人的騷擾、騷擾電話或電子郵件攻擊,這絕非我的本意……這個帳號是為了開玩笑而建立的,從未想過會升級到這種地步。」在聲明發布幾天後,該帳號又開始在 TikTok 上發文。上週,該帳號已被徹底註銷。

Instagram 母公司 Meta 的發言人特雷西·克萊頓(Tracy Clayton)告訴 WIRED,其平台不允許仇恨行為或霸凌與騷擾,Meta 已審查並刪除了部分違反其政策的相關「誹謗」內容。TikTok 發言人表示,該平台政策禁止騷擾,並已刪除違反社群準則的內容,同時實施了自動偵測機制,以便在類似內容發布時及時攔截。

@thewyliefiles 帳號背後的管理員是懷利高中一名因擔心受罰而要求匿名的男學生。他將大部分內容——包括將老師標籤為「綠帽男」(cucks)或「納坦雅胡」的影片——描述為「諷刺性誹謗」。

在一段影片中,一名老師被標籤為「掠奪者與綠帽男」,並配上兩張 AI 生成的圖像,分別描繪他在操場上追逐小孩,以及坐在所謂的「綠帽椅」(cuck chair,指專門用來觀看伴侶與他人發生性行為的椅子)上。

在 @thewyliefiles 看來,「綠帽男」是比「納坦雅胡」更嚴重的侮辱。他說:「這是一件大事,因為它不像是一個玩笑。」但他同時也注意到,提到艾普斯坦和納坦雅胡的名字會讓影片獲得更多流量。他提到一個線上學習遊戲平台時說:「我看到現在有人在 Kahoot 的名字裡加入『IDF 士兵』和『@thewyliefiles』。」他補充說,帳號名稱本身也是「玩弄艾普斯坦檔案(Epstein files)的諧音」。

在阿姆斯特丹大學研究迷因的伊迪爾·加利普(İdil Galip)表示,像 @thewyliefiles 這樣的創作者正受益於以色列和艾普斯坦檔案在網路上產生的大量討論。「這是一種可悲的現狀,這些熱門節點竟成了人們掛載內容創作的鉤子。」

@thewyliefiles 表示,他的目標是讓這個專頁「發展得越大越好」。但與此同時,他也表示擔心老師的安全。他說:「如果你只是為了騷擾而騷擾,那一點也不酷。我們不希望他們被肉搜(doxed),不希望他們被跟蹤,也不希望他們接到惡作劇電話。」

懷利獨立學區首席通訊官艾普莉·康寧漢(April Cunningham)在電子郵件聲明中表示,學區已注意到該帳號。聲明寫道:「雖然我們理解有些學生可能正在探索 AI 工具或參與社交媒體趨勢,但這絕不應以犧牲我們教育者的名譽為代價,或創造誤導性、破壞學習環境的內容……如果我們確認了負責的學生,他們將面臨紀律處分及可能的法律後果。」

康寧漢還證實,學區已知曉上述 @thewyliefiles 的影片,包括將老師標籤為「綠帽男」和「掠奪者」的那段。

聲明指出:「如果個人對學區員工的行為有合理的疑慮,有明確且負責任的舉報管道,」並引用了學區的匿名檢舉熱線等程序。「針對這些影片中所描繪的指控,目前尚未透過這些管道收到任何報告。」

影片中被稱為「掠奪者」和「綠帽男」的老師未回應置評請求,與納坦雅胡和艾普斯坦一同出現在對嘴影片中的前懷利學區總監也未作回應。

@thewyliefiles 說他一直非常保密,沒有告訴任何人他是帳號的主人。「我其實很享受每當人們在討論它、說這個專頁很有趣的時候,而他們完全不知道帳號主人就坐在他們旁邊。」

網路文化研究所所長、阿姆斯特丹大學教授格特·洛文克(Geert Lovink)表示,雖然學生想要嘲弄老師的慾望是「人之常情」,但在他們認為的無害樂趣與在網路上發布這類迷因所產生的後果之間,存在著「深層的技術斷層」。

加利普補充說,誹謗專頁的年輕管理員來自對隱私和身份重要性有著不同理解的世代。

她說:「他們在這種文化中社會化,在這種不斷翻騰的內容浪潮中,你的臉不再屬於你,而是屬於觀眾,屬於評論者用來嘲笑的素材。我們正看到人們透過網路進行社會化,並透過網路而非鏡子來映射自我時,所產生的連鎖反應。」

https://wired.com/story/teens-are-using-ai-fueled-slander-pages-to-mock-their-teachers/