Instagram 現將在青少年搜尋自殺或自殘內容時提醒家長

Instagram 週四宣佈，如果青少年在短時間內反覆嘗試搜尋與自殺或自殘相關的詞彙，系統將開始提醒家長。這些警示將在未來幾週內，向已在 Instagram 上啟用「家長監督」功能的家長推出。

這家隸屬於 Meta 的社交平台表示，雖然目前已封鎖用戶搜尋自殺和自殘內容，但這些新警示旨在確保家長能察覺青少年是否反覆嘗試搜尋此類內容，以便及時提供支持。

可能觸發警示的搜尋內容包括鼓勵自殺或自殘的短語、顯示青少年可能有自傷風險的短語，以及「自殺」或「自殘」等詞彙。

Instagram 表示，家長將根據提供的聯絡資訊，透過電子郵件、簡訊或 WhatsApp 收到警示，同時也會收到應用程式內的通知。該通知將包含旨在幫助家長與青少年開啟對話的資源。

此舉正值 Meta 和其他大型科技公司面臨多項訴訟之際，這些訴訟旨在追究社交媒體巨頭傷害青少年的責任。

在本週於加州北區美國地方法院進行的一場訴訟證詞中，Instagram 負責人 Adam Mosseri 在一宗持續進行的社交媒體成癮案件中，遭到檢察官嚴厲盤問，質疑該應用程式延遲推出基本安全功能，包括針對傳送給青少年的私訊設置裸露過濾器。

此外，在洛杉磯郡高等法院的另一場訴訟證詞中，Meta 的一項內部研究顯示，家長監督和控制功能對兒童強迫性使用社交媒體的影響微乎其微。研究還發現，面臨壓力生活事件的兒童，更難以適當地調節其社交媒體的使用。

鑑於目前有多項訴訟指控該公司未能保護其平台上的青少年，推出這些新警示的時機並不令人意外。

該公司指出，將努力避免發送不必要的通知，因為過度使用可能會降低其整體有效性。

Instagram 在部落格文章中解釋道：「為了在這一重要的平衡點上取得聯繫，我們分析了 Instagram 的搜尋行為，並諮詢了我們自殺與自殘顧問小組的專家。我們選擇了一個門檻，即需要在短時間內進行幾次搜尋，同時仍保持謹慎。雖然這意味著我們有時可能會在沒有真正疑慮的情況下通知家長，但我們認為——專家也同意——這是一個正確的起點，我們將繼續監測並聽取回饋，以確保我們處於正確的位置。」

這些警示將於下週在美國、英國、澳洲和加拿大推出，並將於今年晚些時候在其他地區開放。

未來，Instagram 計劃在青少年嘗試與應用程式的 AI 進行有關自殺或自殘的對話時，也發送這些通知。