Meta員工發現Instagram訂閲工具助長兒童剝削問題，公司仍執意推進——《華爾街日報》
Jeff Horwitz and Katherine Blunt
Meta平台 的安全團隊去年警告稱，Facebook和Instagram上新增的付費訂閲工具正被試圖通過剝削兒童牟利的成年人濫用。
Meta內部兩個團隊在調查報告中拉響警報，發現數百個公司稱為"父母管理的未成年人賬户"正在使用訂閲功能銷售非付費粉絲無法獲取的獨家內容。據知情人士透露，這些內容通常展示穿着比基尼和緊身衣的未成年女孩，出售給以男性為主、且常在帖子評論或與父母私信中公然表達對兒童性趣的受眾。調查確認該付費功能上線時缺乏基本兒童安全保護措施。
儘管女孩圖像未涉及裸體或其他非法內容，Meta員工發現證據表明部分父母明知自己在為其他成年人的性滿足製作內容。有些父母會參與關於自己孩子的性暗示對話，或讓女兒與訂閲者的性暗示信息互動。
Instagram上一個由父母運營的模特賬號訂閲推廣頁面顯示，每月支付19.99美元可享受包括線下活動在內的特權。圖片來源：未署名Meta去年開始全面推廣打賞和付費訂閲服務，旨在為內容創作者提供經濟激勵。雖然只有成人賬户有資格銷售內容或募集捐款，但平台允許成人以兒童名義運營或共同管理賬户。
這類兒童模特賬號引發了成年人不當的關注。加拿大母親兼社交媒體活動家莎拉·亞當斯去年春天曝光了一批出售少女比基尼照片的Instagram賬號後，Meta的內部審查證實，由父母運營的模特賬號確實在迎合那些在平台其他區域表現出戀童傾向、並頻繁使用性化語言討論未成年模特的用户。審查報告顯示，Meta的推薦系統正主動將這些未成年模特賬號推送給疑似對兒童有不當網絡行為的用户。
審查並未發現所有父母運營的賬號都刻意吸引戀童癖用户，部分知名童模家長表示，他們將訂閲視為有價值的網絡形象組成部分，即便某些關注動機並不恰當。
據知情人士透露，Meta員工發現其算法會向潛在戀童癖用户推薦童模訂閲服務，某些案例中父母還討論在其他平台提供額外內容。
知情人士稱，為解決該問題，Meta本可效仿競爭對手TikTok及付費內容平台Patreon、OnlyFans的做法，直接禁止兒童模特賬號的訂閲功能。員工曾正式建議Meta要求銷售兒童內容訂閲的賬號進行註冊，以便公司監管。
知情人士表示Meta未採納這些提案，而是選擇開發自動化系統來阻止疑似戀童癖用户訂閲父母運營的賬號。但該技術並不總是有效，且用户可通過註冊新賬號規避訂閲禁令。
在構建自動化系統的同時，Meta已將訂閲計劃及名為"禮物"的打賞功能擴展至新市場。《華爾街日報》調查發現該禮物工具存在濫用案例。
Meta表示此類項目受到嚴格監控，併為其在安全功能未完善前推進訂閲擴張的決定辯護。公司強調未從訂閲賬户支付中抽取佣金，不存在鼓勵用户訂閲的經濟動機，但確實會從創作者獲得的禮物中分成。
“我們推出創作者變現工具時已配備完善安全措施，對創作者及其內容設置多重審核，“發言人安迪·斯通稱。公司將限制潛在戀童癖用户訂閲兒童內容的行為稱為"持續安全工作的組成部分”。
《華爾街日報》審查Instagram和Facebook上部分熱門家長運營的兒童模特賬户時，發現明顯的監管漏洞。某去年因剝削兒童被封的家長賬户不僅重返平台，還獲得Meta官方認證並積累數十萬粉絲。其他曾在Instagram因剝削行為被封的家長賬户，仍通過Facebook繼續出售兒童模特內容。
調查發現兩起案例中，家長運營的賬户竟向專注成人色情內容創作者及懷孕癖好的20萬粉絲Facebook頁面交叉推廣兒童寫真照。
在《華爾街日報》向Meta通訊團隊指出這些賬户活動及該公司過往刪除記錄後，Meta下架了相關賬户並承認執法失誤。但該公司經常未能清除個人簡介中推廣的Instagram和Facebook"備用"賬號。這些冗餘賬户持續推廣或銷售Meta本欲禁止的內容，直至《華爾街日報》介入調查。
《華爾街日報》審查的部分由父母運營的兒童Instagram賬户在非Meta平台論壇獲得廣泛關注。兒童安全倡導者提供的論壇截圖顯示，男性用户經常轉發女孩們的Instagram照片，並討論特定家長是否願意私下出售更露骨的內容。
多起案例中，用户互相傳授追蹤特定女孩住址的技巧。“我發誓必須找到她”，一名用户在描述涉及14歲少女的性幻想後寫道。
Meta始終難以有效識別和防範其平台的兒童安全隱患。去年《華爾街日報》揭露該公司的算法連接並推廣大量公開涉及未成年人性內容的賬户網絡後，該公司於6月成立專項工作組應對兒童性化問題。
據《華爾街日報》去年報道，這項工作成效有限。儘管Meta試圖限制推薦戀童內容及系統認定為性化兒童的成人用户關聯，測試顯示其平台仍會推薦"兒童內衣"等搜索詞條，以及討論交換兒童性材料鏈接的大型羣組。
《華爾街日報》近期審查訂閲兒童模特內容的賬户發現，許多賬户使用明顯帶有性暗示的用户名。其中公開可見的賬户關注列表裏，除兒童內容外大多充斥着色情動漫及其他成人內容。一名兒童模特賬户訂閲者甚至在其主頁發佈了自稱是射精過程的視頻。
調查還發現，Meta面向千粉賬號推出的"虛擬禮物"功能同樣存在不良行為。某些高人氣賬户通過該功能募集打賞，專門收集轉載小女孩拉伸或跳舞的性暗示視頻，使這些兒童暴露在大量使用挑逗表情符號和色情評論的觀眾面前。多起案例中，“發送禮物"按鈕直接關聯到標註為兒童性虐待視頻的推廣鏈接。
除存在問題的家長運營的未成年人賬户外，記者還發現大量違反Meta規則的付費訂閲及打賞內容。一個名為"色情視頻xvideos xnxx xxx性感"的賬户聲稱直播成人影片。擁有50萬成員的西班牙語"女學生"羣組同樣在提供訂閲內容。
Meta在接到舉報後已下架上述內容，並表示近期開始通過名為Macsa（“惡意兒童安全行為者"縮寫）的工具篩查涉及兒童的訂閲銷售賬户。該公司稱還將對這類內容的購買者進行戀童癖行為檢測，但該功能尚未完成開發。
其他被允許尋求付款的違規賬户示例包括髮布行人被車輛碾壓的剝削性圖像以及暗示強姦的性愛畫面。這些視頻在某些情況下擁有數百萬的瀏覽量。
Meta的斯通表示，存在送禮按鈕並不證明公司實際向索要小費的賬户支付了款項。他説，成功獲得現金捐贈的視頻需經過額外審查。
為了鼓勵平台上的內容創作，Meta和其他社交媒體公司鼓勵有抱負的創作者通過現金“小費”和“禮物”或定期訂閲付款從粉絲那裏籌集資金。平台通常會從這些付款中抽取分成。Meta表示至少在2024年底之前不會對訂閲收入抽成，但會對創作者收到的禮物支付收取佣金。
這類創作者支付模式與主要社交網絡的核心廣告業務大相徑庭，使它們與Patreon和OnlyFans等專為創作者銷售數字內容搭建的專業平台形成競爭。
這兩家平台都制定了Meta所不具備的政策，限制涉及兒童內容的訂閲和打賞功能。Patreon要求未成年人需獲得成年監護人許可才能開户，並禁止未成年模特賬户。
OnlyFans同時服務於成人內容創作者和非色情內容創作者，基於安全理由完全禁止未成年人使用其平台，通過人工智能和人工審核刪除所有包含兒童的圖像——即便是健康內容。根據該公司政策，烹飪類網紅將被禁止在廚房場景中展示其家人。
TikTok向《華爾街日報》表示，其平台禁止在TikTok市場及創作者變現服務中銷售未成年模特內容。YouTube的一位女發言人則表示，平台雖不會直接禁止訂閲兒童模特內容，但強調不允許賬户與關注者之間的互動交流——而這正是Meta將其作為訂閲產品核心功能推廣的特性。
聯繫記者傑夫·霍維茨請致信[email protected]，聯繫凱瑟琳·布朗特請致信[email protected]