Meta正努力將戀童癖者趕出Facebook和Instagram——《華爾街日報》

Meta 平台公司花費數月試圖解決Instagram和Facebook上的兒童安全問題，卻仍難以阻止其系統助長甚至推廣龐大的戀童癖賬號網絡。

這家社交媒體巨頭在《華爾街日報》與斯坦福大學、馬薩諸塞大學阿默斯特分校研究人員揭露Instagram算法關聯未成年人色情內容交易賬號網絡後，於六月成立了兒童安全專項組。

五個月後，本報與加拿大兒童保護中心的測試顯示，Meta的推薦系統仍在推廣此類內容。該公司已刪除涉及戀童癖的話題標籤，但其系統有時會推薦略有變化的新標籤。即便收到問題賬號和用户羣組的舉報，Meta的清理行動也時斷時續。

測試表明該問題已從Instagram蔓延至更龐大的Facebook羣組生態，包括多個公然以兒童性化為主題的大型羣組。全球月活用户超30億的Facebook，一直將羣組功能作為連接同好用户的核心賣點。

Meta發言人表示公司已從Facebook搜索結果中屏蔽19萬個羣組，封禁數萬賬號，但進展未達預期。“剝削兒童是令人髮指的罪行，網絡捕食者是頑固的罪犯，“發言人補充説Meta近期宣佈將與其他平台合作剷除這類行為，“我們正持續推進今年早些時候專項組制定的整改措施。”

公司表示，還採取了其他方法來發現並刪除違反其兒童剝削政策的賬户，並改進了技術以識別直播視頻中的成人裸體和性行為。

Meta的總部位於加州門洛帕克（如上圖所示），於6月成立了一個兒童安全工作組。照片：Ian Bates為《華爾街日報》拍攝斯坦福互聯網觀察站一直在研究互聯網平台對兒童性內容處理的情況，在9月的一份報告中肯定了Meta的一些進展，但提到Instagram上戀童癖者之間的聯繫時表示，“整體生態系統仍然活躍，內容執行方面還有很大的改進空間。”

加拿大兒童保護中心是一家非營利組織，致力於開發自動篩查工具以保護兒童，該組織表示，一個擁有多達1000萬粉絲的Instagram賬户網絡在被舉報給公司數月後，仍在直播兒童性虐待視頻。《華爾街日報》的測試顯示，Facebook的算法幫助建立了專門用於交易兒童性虐待內容的大型Facebook羣組。

Meta表示，其工作組（有時有超過100名員工）已禁止了數千個戀童癖者用來推廣或搜索兒童性化內容的標籤，刪除了戀童癖賬户，併為內容審核員提供了更多指導。公司表示，正在努力加強軟件工具，限制其算法連接戀童癖者，並幫助鎖定吸引他們的論壇和內容。

近年來，Meta已將注意力和資源轉向人工智能、虛擬現實和元宇宙領域。據現任及前任員工透露，過去一年的大規模成本削減導致數百名專注於"高嚴重性"內容安全員工被裁，其中包括部分兒童安全專家。

Meta表示公司持續投資兒童安全工作，包括組建團隊專門識別並移除平台上的兒童剝削內容。

Meta始終不願大幅限制其個性化內容推薦系統——正是這套系統助其成為全球最大社交媒體公司。發言人表示，粗暴限制或移除那些也能連接用户與合規內容的功能並非防止不當推薦的合理方案，公司正通過安全投入維護平台健康。“我們的系統每天幫助數百萬用户找到與其相關的積極興趣小組”，他舉例稱包括癌症互助羣組和招聘信息。

《華爾街日報》查閲的公司文件顯示，今年早些時候Meta高管層曾指示負責用户安全問題的誠信團隊優先考慮"減少廣告商摩擦"和避免"意外限制產品善意使用"等目標。在被曝光的規劃文件中，這些任務的優先級被排在了兒童剝削等有害內容治理等傳統安全工作之前。

“對於誠信團隊成員而言，確保社區安全是他們的首要任務，這是不言而喻的，”Meta發言人表示。

與其他科技公司一樣，Meta長期以來不得不打擊利用其平台誘騙兒童或交易兒童性虐待材料的行為。《華爾街日報》6月的文章顯示，Instagram不僅託管此類活動，其推薦系統還將戀童癖者相互聯繫起來，並引導他們找到內容賣家。

在過去五個月中，對於查看過包含關於兒童的不當討論的公開Facebook羣組的《華爾街日報》測試賬户，Facebook的算法推薦了其他名稱如“小女孩”、“漂亮男孩”和“僅限青少年”的羣組。這些羣組中的用户在性語境下討論兒童，發佈據稱涉及虐待的內容鏈接，並組織私人聊天，通常通過Meta自己的Messenger和WhatsApp平台進行。《華爾街日報》記者沒有發表評論、點擊任何鏈接或加入任何聊天。

部分得益於Facebook的“你應該加入的羣組”算法，此類論壇的成員數量可以迅速膨脹。在一個慶祝亂倫的公開羣組中，20萬用户討論了諸如一個男人的侄女在9歲時是否“準備好了”等話題，並安排交換據稱涉及他們自己孩子的性內容。在另一個擁有80萬用户的羣組中，管理員分享了女學生的圖片，以推廣一個名稱涉及女性內衣的西班牙語網站。

當《華爾街日報》的研究賬户通過用户報告標記了許多此類羣組時，公司經常宣佈這些羣組是可以接受的。“我們已經查看並發現該羣組不違反我們的社區標準，”Facebook在回覆關於一個名為“亂倫”的大型Facebook羣組的報告時表示。

直到《華爾街日報》將特定羣組提請Meta通訊團隊注意後，該公司才將其刪除。

該問題不僅限於Instagram，還涉及更廣泛的Facebook羣組生態系統。圖片來源：Wilfredo Lee/美聯社Meta表示，經過改進的軟件工具將通過限制戀童癖賬户在其平台上的聯繫能力來解決此類問題。這項工作重點擴展了一項技術的應用，該技術旨在通過評估用户行為來識別"潛在可疑成年人”，以確定他們是否對兒童構成威脅。

此前該技術已被用於限制被Meta系統判定可能屬於戀童癖者的Facebook或Instagram賬户查找和聯繫兒童。Meta現在計劃利用該技術阻止戀童癖者相互關注並形成志同道合的羣組。該技術旨在限制推薦表現出可疑行為的賬户和羣組。

Meta發言人表示，公司首次開始禁用可疑行為評分超過特定閾值的個人賬户。

今年五月，美國一位外部研究人員記錄了一個Instagram賬户網絡（部分賬户擁有數百萬粉絲）正在直播兒童性虐待視頻。該研究人員向Meta和當局報告了此活動。《華爾街日報》也向Meta通訊團隊標記了這些賬户，當時該公司表示正在調查。

Meta在10月下旬表示已封禁數百個賬户。但據加拿大兒童保護中心的獨立調查顯示，在該網絡被舉報給Meta五個多月後，相關賬户仍在定期發佈混合成人色情、兒童性虐待和獸交視頻的內容。

“我們經常困惑，‘為什麼我們能在幾分鐘內就發現這些龐大的犯罪網絡？’“該中心主席Leanna McDonald質疑道，“為什麼平台方沒有人處理這些問題？”

斯坦福互聯網觀察站的研究人員發現，當Meta刪除其認為涉及戀童癖的Instagram或Facebook話題標籤時，系統往往無法識別——有時反而會推薦——僅做了細微變體的新標籤。例如在禁用#Pxdobait標籤後，搜索推薦會引導用户在原詞組末尾添加特定表情符號。

斯坦福團隊向Meta提供了Instagram兒童性剝削社羣熱門羣組分析報告。五個月後，部分被標記的羣組仍在運營。

Meta發言人回應稱，解散羣組是複雜且耗時的過程。該公司表示，自7月1日起已因違反兒童安全政策移除了16,000個羣組。

斯坦福互聯網觀察站首席技術官David Thiel指出這些羣組本應更容易審核：“通過成員交叉分析就能輕鬆排序羣組，排名靠前的幾乎全部存在問題。”

儘管Meta允許用户舉報違規內容，但《華爾街日報》6月的報道顯示，其系統經常忽略或駁回兒童剝削內容的舉報。Meta當時回應稱已發現並解決導致大量用户報告未被處理的軟件故障，並正在為內容審核員提供新培訓。

然而，在《華爾街日報》向Meta舉報涉及兒童色情的Facebook羣組問題四個月後，由該報研究賬號提交的相關用户舉報仍未得到常規處理。

Meta曾表示其審核準確率約為90%。但該公司5月的內部審查發現，其對用户舉報未成年人色情內容的處理決定經常難以解釋。

Meta聘請外部承包商協助內容審核。其6月成立的兒童安全工作組派團隊前往孟買——該公司外包審核人員的最大樞紐。

調查團隊發現審核員培訓不足，且Meta的IT系統有時會顯示空白屏幕，而非本應審核的"高敏感度"內容。其他案例中，合同工被要求審核他們不懂的外語文本。

Meta承認這些缺陷，並表示已取得改進進展。

但在春末至夏季期間，該公司裁減了兒童安全專家及全球運營團隊（負責處理有時涉及兒童安全的"高敏感度"內容審核問題）的相當部分人員。在Meta全球內容審核總部都柏林，超過130名員工被裁，部分面向北美的安全工作被轉交給中東北歐團隊。

Meta發言人表示被裁的都柏林員工僅偶爾處理兒童安全問題。

Meta的全球內容審核中心設在都柏林。其辦公室位於該市硅港區，如上圖所示。攝影：Paulo Nunes dos Santos/彭博新聞社“對涉嫌包含兒童性化材料的內容進行人工審核，是由經過專門培訓的人員完成的，”一位發言人表示。

在《華爾街日報》於6月公佈調查結果後，Meta表示正在重新權衡兒童安全與賦予用户最大自由之間的關係。

此前，Meta一直拒絕封禁Instagram和Facebook上的#CP標籤（戀童癖者常用的“兒童色情”縮寫），因為同樣的首字母組合有時被用於關於腦性麻痹（cerebral palsy）和西班牙語雞湯（caldo de pollo）的帖子。

Meta限制了這個術語及包括#亂倫和#洛麗塔在內的數千個其他術語的可搜索性。

斯坦福大學研究人員9月對Instagram的審查發現，一些他們在春季發現的未成年性內容賣家仍擁有活躍賬户，並通過微調之前的標籤來推廣非法材料。

Instagram的一個旨在幫助用户發現新內容的系統，會在用户輸入搜索詞時自動推薦個性化的變體。斯坦福研究人員發現，即使對於Meta已禁止的搜索詞，這種情況也會發生。

在《華爾街日報》的一個Instagram測試賬户上，Meta不允許顯示“兒童鏈接”的搜索結果，但系統卻推薦了一個替代詞：“兒童色情鏈接”。在《華爾街日報》查詢後Meta屏蔽該術語後，系統又開始推薦新短語，如“兒童內衣”和“childp鏈接”。

近日，Facebook的"推薦加入的羣組"功能中，竟出現了涉及綁架、與11歲幼童"約會"甚至用氯仿迷暈女性等犯罪話題的羣組推薦。

在《華爾街日報》向Meta公司舉報這些氯仿迷藥羣組後，該公司將其下架。然而兩週內，一個專門討論用氯仿迷暈兒童、擁有1800名成員的羣組再次出現在Facebook的推薦列表中。

在該羣組中，用户上傳了用布條捂住女孩面部的照片。一名成員發佈了一張微笑幼女的照片並配文"適合綁架嗎？"，其他成員紛紛表示認同。

經《華爾街日報》標記舉報後，Meta公司也移除了該羣組。

聯繫記者傑夫·霍維茨請致信[email protected]，聯繫凱瑟琳·布倫特請致信[email protected]

本文發表於2023年12月2日印刷版，原標題為《Meta平台難阻戀童癖氾濫》。