州政府稱Instagram和Facebook上的兒童頻繁成為性騷擾目標——《華爾街日報》
Katherine Blunt and Jeff Horwitz
Meta本月表示將開始自動限制青少年Instagram和Facebook賬户接觸有害內容。圖片來源:josh edelson/法新社/蓋蒂圖片社根據2021年Meta平台公司一份內部報告,使用Instagram和Facebook 的兒童頻繁成為性騷擾目標,該報告估計每天有10萬名未成年人收到成人生殖器照片或其他性虐待內容。
這一發現來自新墨西哥州上月提起的訴訟中最新解封的材料,該訴訟指控Meta平台向未成年用户推薦性內容,並將未成年賬户推送給有 predatory 傾向的成年用户。
根據最新解封文件披露,Meta員工在2021年一份內部文件中指出,其名為"可能認識的人"的推薦算法在員工內部以"將兒童用户與潛在 predator 建立聯繫"而聞名。新墨西哥州訴訟稱,數年前該問題已多次被標記給高管,但管理層拒絕了員工關於調整PYMK算法設計的建議——該調整本可阻止系統向成人推薦未成年人賬户。
在報告附註中,一名Facebook員工寫道,該算法曾"促成高達75%所有不恰當的成人與未成年人接觸"。
“我們到底為什麼還沒關閉成人與兒童之間的‘可能認識的人’功能?”訴訟文件顯示,另一名員工回應道,“這真的、真的令人非常不安。”
Meta拒絕就最新解封的內部文件內容置評,並讓《華爾街日報》參考其先前聲明。該公司在聲明中表示,新墨西哥州“通過斷章取義的引用和精心挑選的文件曲解了我們的工作”。Meta將兒童性侵者稱為“頑固罪犯”,並表示長期以來一直為年輕用户及其父母投入資源開發安全工具和執法措施。
新墨西哥州指控Meta未能解決其平台上普遍存在的性侵行為,也未能限制向心懷惡意的成人推薦兒童用户的設計功能。訴訟稱,Meta非但未公開承認內部調查結果(如其平台每日發生10萬起兒童騷擾事件),反而向公眾虛假保證其平台是安全的。
最新解封材料中描述的多數內部討論聚焦於Instagram。根據訴訟引用的文件,2020年一份內部郵件顯示,員工報告稱美國境內Instagram上對未成年人發送“性話題”的普遍程度是Facebook Messenger的38倍,敦促公司在該平台實施更多保護措施。
同年有員工報告稱,一位蘋果公司高管投訴其12歲孩子在Instagram上被誘導。負責處理該問題的Meta員工指出“這類事件足以激怒蘋果,甚至可能導致他們威脅將我們下架應用商店”,並詢問公司是否有具體時間表來阻止成年人在該平台向未成年人發送消息。
2020年11月一份題為《兒童安全:現狀》的演示文稿指出,Instagram僅採取了"最低限度的兒童安全保護措施",並將涉及"未成年人性化"的政策描述為"不成熟"。文件進一步強調該平台對人口販賣問題"關注嚴重不足"。
新墨西哥州指控稱,儘管Meta高層清楚問題嚴重性,卻遲至2022年底才採取行動阻止成年用户對兒童進行性誘導——且未全面實施安全團隊建議的通訊限制措施。Facebook和Instagram沒有全面禁止向成人用户推送兒童賬户,而是選擇僅對已有可疑兒童互動行為的成人賬户屏蔽此類推薦。
新墨西哥州指出,Meta僅限制與已知可疑賬户接觸的做法,其效果遠不如徹底關閉推薦功能,因為惡意成年用户和兒童都會虛報年齡。訴狀顯示,Meta在2021年內部承認其平台大多數未成年人謊報成年,而針對誘騙兒童被封賬號的研究發現,99%的成年施害者未如實填寫年齡。
《華爾街日報》6月曝光Instagram算法連接並推廣了大量公然交易未成年人色情內容的賬户網絡後,Meta當月成立了專項工作組應對平台兒童安全問題。
去年《華爾街日報》的額外文章顯示,Meta正努力修復Instagram和Facebook上的問題,該公司最近在Facebook上引入了私信加密功能。據《華爾街日報》報道,該公司的安全團隊長期警告這種加密交流可能被用於兒童剝削犯罪的風險。Meta表示已花費數年開發安全措施來預防和打擊濫用行為。
除新墨西哥州的訴訟外,還有40多個州在去年10月起訴Meta,指控其就平台對青少年構成的危險誤導公眾。
Meta本月表示將開始自動限制青少年的Instagram和Facebook賬户接觸有害內容,包括關於自殘、暴力畫面和飲食失調的視頻和帖子。
聯繫凱瑟琳·布倫特,郵箱:[email protected];聯繫傑夫·霍維茨,郵箱:[email protected]