《華爾街日報》：Instagram算法向關注兒童的成人推送有害視頻合集

Instagram的Reels視頻服務旨在向用户推送系統判定其可能感興趣的短視頻流，內容涵蓋體育、時尚或幽默等主題。

《華爾街日報》測試顯示，這款Meta Platforms擁有的社交應用同樣會向被算法判定可能對兒童存在不健康興趣的用户推送相關內容。

該報通過建立僅關注年輕體操運動員、啦啦隊員及其他活躍在平台上的青少年網紅測試賬號，試圖探究Instagram的Reels算法會推薦何種內容。

Instagram系統向這些測試賬號推送了大量令人不適的露骨內容，包括兒童性感影像、成人色情視頻，以及部分美國知名品牌的廣告。

《華爾街日報》在觀察到這類青少年賬號的數千粉絲中常包含大量成年男性，且許多關注者同時表現出對兒童及成人色情內容的興趣後，設立了相關測試賬號。該報還測試了在關注這些用户後算法的推薦內容，結果出現了夾雜廣告的更為令人不安的內容。

在Instagram推薦的視頻流中，約會應用Bumble的廣告出現在以下兩個視頻之間：一個視頻展示某人撫摸真人大小乳膠娃娃的面部，另一個視頻中面部被數字模糊處理的少女掀起上衣露出腹部。另一案例中，必勝客廣告緊跟着一段視頻播放——畫面裏男子躺在牀上，手臂環抱字幕所稱的10歲女童。

加拿大兒童保護中心（一家兒童保護組織）獨立進行了類似的測試，結果相似。

Meta表示，《華爾街日報》的測試製造了一種不反映數十億用户真實體驗的場景。該公司未解釋算法為何會彙總展示兒童、性內容和廣告的獨立視頻流，但一位發言人指出，Meta已於10月推出新的品牌安全工具，讓廣告主能更好地控制廣告展示位置，且Instagram每月會刪除或降低約400萬條疑似違規視頻的曝光度。

《華爾街日報》6月曾報道，Meta旗下Facebook和Instagram的算法為大量對兒童性剝削內容感興趣的用户建立了聯繫。Meta發言人回應稱，報道發佈後成立的工作組已擴大自動化監測系統，每月封禁數萬個可疑賬户。該公司還加入了新的行業聯盟以共享兒童剝削潛在跡象。

測試中出現廣告與不當內容並排的品牌包括迪士尼、沃爾瑪、在線約會公司Match Group、銷售勃起功能障礙藥物的Hims及《華爾街日報》自身。多數品牌零售商要求其廣告不得出現在性暗示或露骨內容旁。

“我們的系統能有效減少有害內容，並已在安全、安保和品牌適用性解決方案上投入了數十億美元，”負責與廣告行業關係的Meta副總裁薩曼莎·斯泰森表示。她稱Instagram上不當內容的出現率很低，公司正投入巨資進一步降低其存在。

Instagram母公司Meta（總部如圖，位於加州門洛帕克）推出Reels功能與短視頻平台TikTok競爭。圖片來源：Kori Suzuki/華爾街日報在《華爾街日報》聯繫到測試中廣告與不當視頻相鄰的企業後，多家公司表示Meta已告知正展開調查，並將出資聘請第三方機構進行品牌安全審計。

由於認為Meta對其投訴的回應不盡人意，Match集團自10月起開始逐步取消旗下Tinder等應用在Meta平台的廣告投放。目前該集團已全面停止Reels廣告，並終止了所有主要品牌在Meta各平台的推廣。“我們絕不願意付費讓Meta將品牌推向潛在侵害者，或使廣告與這類內容相鄰。”Match發言人賈斯汀·薩科強調。

Bumble發言人羅比·麥凱表示“絕不會故意將廣告投放在不當內容附近”，公司已暫停在Meta所有平台的廣告投放。

迪士尼品牌管理副總裁查理·凱恩稱，公司對社交媒體廣告內容設定了嚴格標準，並持續敦促Meta等平台完善品牌安全功能。一位發言人透露，自《華爾街日報》向迪士尼提交調查結果後，公司已推動Meta“最高層面對此問題進行處理”。

沃爾瑪拒絕置評，必勝客未回應置評請求。

Hims公司表示將敦促Meta避免此類廣告投放，並認為Meta承諾解決該問題的態度令人鼓舞。

《華爾街日報》稱對其廣告與明顯成人性行為視頻相鄰出現表示震驚，將要求Meta採取行動。

Meta創建Reels是為了與北京字節跳動旗下短視頻平台TikTok競爭。兩款產品都向用户持續推送他人發佈的視頻流，並通過插播廣告盈利。兩家公司的算法會根據用户過往觀看行為，推送平台計算出最可能吸引其停留的內容。

《華爾街日報》記者在新購設備上以成人身份創建Instagram測試賬號，關注體操運動員、啦啦隊員等年輕網紅。測試顯示，僅關注未成年女孩會觸發Instagram推送成人色情內容賬號視頻，並與沃爾瑪等消費品牌廣告並列展示——例如某女性暴露下體的視頻後立即播放了沃爾瑪廣告。

當測試賬號再關注那些同樣關注未成年賬號的用户時，平台推薦內容更加令人不安：既有成人色情內容，也有兒童性暗示素材，包括穿着衣服的女孩撫摸軀幹的視頻，以及兒童模仿性行為的畫面。

算法推薦系統專家指出，測試表明儘管體操看似無害話題，但Meta的行為追蹤已識別出部分關注青春期前女孩的Instagram用户存在觀看性化兒童內容傾向，並據此定向推送。

“小眾內容比大眾興趣內容能提供更強烈的信號，”加州大學伯克利分校人類兼容人工智能中心的高級科學家喬納森·斯特雷表示。

在《華爾街日報》的測試賬户中，如上圖所示的迪士尼樂園廣告出現在具有性暗示性質的視頻旁邊。一位迪士尼高管表示，公司已敦促Meta改進品牌安全功能圖片來源：達尼亞·馬克斯韋爾/洛杉磯時報/蓋蒂圖片社Meta現任和前任員工在採訪中透露，Instagram算法從全站聚合兒童性化內容的傾向在內部被視為已知問題。他們表示，一旦Instagram將用户標記為對某類內容感興趣，其推薦系統就會持續推送更多相關內容。

據這些員工稱，要阻止系統向對此類內容感興趣的用户推送有害信息，需要對同樣服務於普通用户的推薦算法進行重大調整。《華爾街日報》查閲的公司文件顯示，平台安全人員被普遍禁止實施任何可能導致日活用户數量可測量下降的改動。

測試賬户顯示，問題Reels流中經常插入廣告。一則宣傳迪士尼樂園假日遊的廣告旁，播放着成人模擬與父親發生性關係的視頻，以及另一名年輕女性身着內衣、嘴角滴落假血的畫面。Hims公司廣告緊接在一段明顯處於痛苦性侵情境的女性視頻之後出現，並附有所謂"完整視頻"的鏈接。

據前員工透露，早在2020年Reels上線前，Meta員工就已意識到該產品存在安全隱患。

部分問題在於：相比文字或靜態圖片，自動化審核機制更難解析視頻內容。另一重挑戰來自Reels的運作機制——與Instagram和Facebook其他功能通常展示好友分享的內容不同，Reels會推送用户未關注來源的視頻。

兩位前員工透露，在Reels推出前的內部安全分析中，Meta安全人員曾預警該產品可能將兒童視頻與不當內容串聯展示的風險。Meta前青少年政策負責人Vaishnavi J表示，安全審查提出的建議是：“要麼提升內容檢測能力，要麼停止推薦任何未成年人內容（即所有兒童相關視頻）"。

當時TikTok迅猛發展，正吸引着Instagram年輕用户及其目標廣告商的注意力。據J所述，Meta當時並未採納安全分析報告中的任何建議。

Meta數字廣告業務聯絡人Stetson反駁了公司忽視兒童安全問題的指控：“我們在全面推廣前對Reels進行了近一年的測試，配備了完善的安全管控措施。”

視頻分享平台對社交媒體公司的吸引力在於：相比文字或靜態圖片，視頻能更長時間吸引用户注意力，這對廣告商極具誘惑力。

社交媒體平台偏愛視頻內容，因為相比文字或靜態圖片，視頻更能長時間吸引用户注意力。圖為Meta首席執行官馬克·扎克伯格在9月的一場活動中。圖片來源：Godofredo A. Vásquez/Associated Press在初期難以充分釋放Reels產品變現潛力後，Meta已優化其算法推薦機制，為用户提供更個性化的視頻流服務。

社交媒體平台與數字廣告代理商常將不當廣告投放歸咎於意外失誤。但《華爾街日報》與加拿大兒童保護中心運營的測試賬户顯示，Meta平台似乎有意向對性內容感興趣的用户定向推送某些數字營銷內容。

測試賬户中反覆出現的廣告包括：含有成人裸露內容的"約會"應用與直播平台、提供"特殊服務"的按摩院，以及專為網絡性愛設計的人工智能聊天機器人。根據Meta自身政策，此類廣告本應被禁止。

《華爾街日報》於8月就測試結果向Meta發出通報。此後數月的跟蹤測試表明，該平台仍在持續推送包含幼童畫面、成人內容及疑似兒童性剝削材料推廣的系列視頻。

該非營利組織指出，截至11月中旬，Instagram仍在穩定推薦其所謂的"成人及兒童進行性暗示擺拍"內容。

在《華爾街日報》開始就廣告投放問題聯繫廣告商，且相關公司提出質疑後，Meta告知他們正在調查此事，並將支付品牌安全審核服務費用，以確定企業廣告出現在其認為不可接受的內容旁的頻率。

Meta尚未提供解決問題的時間表，也未解釋未來將如何限制涉及兒童的不當內容推廣。

《華爾街日報》的測試賬户發現，該問題甚至影響到Meta旗下品牌。其WhatsApp加密聊天服務和Ray-Ban Stories智能眼鏡的廣告曾出現在成人色情內容旁。由Meta前首席運營官雪莉·桑德伯格運營的公益組織"Lean In Girls”（旨在賦能年輕女性）的廣告，則直接出現在一位常穿學生制服演出的成人色情內容創作者推廣內容之前。桑德伯格拒絕置評。

加拿大兒童保護中心通過自身測試得出結論：Instagram定期推送的 clothed children（着衣兒童）視頻和圖片，同時出現在美國國家失蹤與受虐兒童中心的數字數據庫中——該數據庫收錄的影像資料均被確認為兒童性虐待材料。該組織表示，施虐者常利用這些女孩的圖片在暗網論壇兜售非法內容。

加拿大兒童保護中心執行主任莉安娜·麥克唐納指出，這類內容（通常不展示裸體但對兒童進行性化）的特性，體現了社交媒體如何改變了網絡兒童性虐待的形態。該組織對Meta的算法實質上可能助長兒童性虐待網絡社區招募新成員的能力表示擔憂，這些社區會大量散佈通往更私密論壇的非法內容鏈接。

“一次又一次，我們看到推薦算法引導用户發現並深陷這些網絡剝削兒童的社區，”麥克唐納説道，並指出令人不安的是，這一過程竟由各大公司的廣告收入所資助。

羅比·惠蘭對本文亦有貢獻。

聯繫傑夫·霍維茨，郵箱：[email protected]；聯繫凱瑟琳·布朗特，郵箱：[email protected]

本文發表於2023年11月28日印刷版，標題為《Instagram推送有毒視頻合集》。