《華爾街日報》:"災難配方":內部人士警告Meta的隱私保護舉措將為兒童性侵者提供庇護
Jeff Horwitz and Katherine Blunt
當Meta 平台本月開始為Facebook私信部署加密功能時,這項被其安全團隊員工長期警告將導致災難性後果的項目正在推進。
這項加密功能(Meta表示也將應用於Instagram)是2019年首次宣佈的隱私增強計劃最終成果。早在此前,大衞·厄布等員工就曾內部警告:加密會限制平台檢測和報告兒童性虐待內容的能力。
2018年,時任Facebook工程總監的厄布領導着專注檢測有害行為的"社區誠信"團隊。當團隊開始研究成年人與未成年人的不當互動時,發現"可能認識的人"推薦算法竟是戀童癖鎖定受害者的主要渠道。
“情況比我們預想的惡劣百倍,“厄布近期受訪時透露,“數百萬戀童癖正在瞄準數千萬兒童。”
得知高管層正推進消息加密後,厄布向主管表明若實施加密將辭職——這會使團隊發現的兒童安全問題無法追蹤。數日內他便被撤職停崗,最終離職。
Meta將隱私稱為基本人權,隱私倡導者也長期敦促科技企業採用這種"端到端"加密(僅收發雙方可查看內容)。2019年3月馬克·扎克伯格宣佈該計劃時稱:“未來通訊將轉向私密加密服務,人們能確信對話安全無虞。”
Meta首席執行官馬克·扎克伯格一直是推動公司隱私保護舉措的核心人物。圖片來源:Andrej Sokolow/DPA/Zuma Press他也承認其中風險,表示這一轉型需要與執法部門合作,以預防可預見的濫用行為。“當數十億人使用某項服務進行聯繫時,其中難免有人會將其用於兒童剝削、恐怖主義和勒索等極端惡劣的用途,“扎克伯格寫道。
發言人安迪·斯通表示,Meta此後一直致力於應對這些風險,稱公司"花費多年時間在Facebook和Instagram上建立了完善的安全措施,以預防和打擊濫用或非法活動”。
儘管包括蘋果在內的其他公司已在其通訊平台實施類似加密技術,且Meta旗下的WhatsApp已是全球最大加密通訊應用,但這些服務通常不會讓用户與陌生人建立聯繫。
Facebook和Instagram均具備強大的搜索和推薦功能,允許用户查找並向陌生人發送消息。為這類服務添加加密技術後,陌生人之間的通信將完全隱匿——包括不法分子接觸兒童的行為。
其他具有類似發現功能的社交媒體平台均未提供加密服務。TikTok於2020年全面禁止16歲以下用户使用私信功能,並要求16歲以上青少年主動選擇開啓收發消息權限。該平台表示不提供加密是因為"我們高度重視保障年輕用户的安全體驗”。YouTube則在2019年取消了私信功能,稱希望"專注於改善公共對話質量”。
Meta表示已採取措施,使未成年用户的通信更安全。該平台限制自稱年齡超過19歲的用户主動與未關注他們的青少年發起對話,並致力於阻止行為可疑的成年人與青少年賬户互動。
隱私權倡導者指出,在數字時代,加密技術對於保護通信免受政府、黑客及平台運營企業的窺探至關重要。“每個人都需安全保障,在這個個人信息被罪犯、警察和企業肆意利用與濫用的世界裏,端到端加密乃至更廣泛的網絡安全應成為全民優先事項,“美國公民自由聯盟在10月的聲明中強調。
與此同時,執法機構與兒童安全倡導者長期擔憂加密技術會加大打擊兒童性剝削犯罪的難度。
“對你來説太老了”
據法庭文件顯示,當Meta員工準備實施Facebook消息加密時,芝加哥地區的卡爾·奎爾特正通過Facebook和另外兩個通訊平台向菲律賓未成年女孩索要色情照片。他在Facebook上使用"馬修·瓊斯"的化名。
2020年5月,奎爾特在女孩16歲生日前兩週開始通過Facebook與其聊天。他自稱55歲,“對你來説太老了”,但數日後便要求對方發送胸部及私處照片,並承諾提供購藥錢款和家庭食品費用作為交換。
女孩上傳了三張裸照,並説道:“我這樣做是為了幫助我的兄弟姐妹們,讓他們能多吃一天飯。”
奎爾特繼續在Facebook上給女孩發信息,告訴她自己將在那年12月訪問菲律賓,並要求她承諾將她的童貞獻給他。
Facebook的調查人員發現了這些信息,並將它們轉交給了當局。直到最近,該公司還允許某些員工篩選信息,以發現潛在的兒童性虐待和對人類生命的緊迫威脅。聯邦調查人員發現,奎爾特一直在使用同一個Facebook賬户,向至少八名菲律賓女孩索取性內容。
奎爾特於2020年11月被捕,距離他計劃的旅行還有一個月。今年,他因對兒童進行性剝削認罪,被判處30年聯邦監禁。
“他們的信任與安全團隊能夠訪問信息起到了關鍵作用,”調查奎爾特的國土安全部芝加哥辦公室負責人布萊恩·菲茨傑拉德説。“一個隨機的陌生人不應能在初次接觸後就與未成年人進行加密通信。”
‘Meta獨有的災難配方’
在Facebook上推出加密功能之前,Meta曾考慮採取措施限制全面加密的使用情況,並考慮允許某些員工在特定情況下收集額外數據或訪問信息。Meta前青年政策負責人Vaishnavi J表示,內部曾討論過將Facebook和Instagram上的兒童賬户排除在加密之外。
據她和其他前員工向《華爾街日報》透露,這些措施被否決的原因,既是為了避免為平台上青少年用户的遭遇承擔潛在責任,也因為這將要求員工持續投入時間和資源處理問題行為。J在今年早些時候的裁員中失去了工作,此次裁員是扎克伯格所稱Meta“效率之年”計劃的一部分。
“Meta總是辯稱這是全行業共有的問題。但沒有其他公司會將推薦算法與加密通訊功能結合,”她説,“這是Meta獨有的災難配方。”
Meta位於加州門洛帕克的園區。該公司已開發內部工具以更好地利用未加密數據,試圖彌補無法查看消息內容的缺陷。圖片來源:Justin Sullivan/Getty ImagesMeta發言人斯通稱,關於成本或節省人力因素影響未成年用户加密豁免決策的説法“荒謬至極”。
現任Meta首席信息安全官的蓋伊·羅森曾在2019年5月告知員工,實施消息加密後,需通過公司仍能獲取的未加密數據,採用不同方法識別惡意行為者**。**
他在《華爾街日報》查閲的內部臉書帖子中寫道:“我們必須全力以赴,在加密私密通訊的限定範圍內,採取一切可行措施保障用户安全。”
部分員工對此舉表示支持,也有人表達了擔憂。一名員工寫道,如此廣泛地引入加密技術將帶來"未知的未知數”——即公司無法完全預見的各種潛在濫用行為。
“我個人認同這些擔憂並曾明確表態,“羅森回覆道,“我們能做的最好的事就是把這個項目執行到位。”
羅森通過Meta公司表示不予置評。
Meta安全團隊能採取的解決方案存在侷限性。埃爾布在瞭解加密計劃後,曾向WhatsApp有加密經驗的同事諮詢如何解決兒童剝削問題。他回憶説,同事們表示Facebook必須限制其推薦和內容發現功能,以避免出現埃爾布所擔憂的 predatory 行為。
埃爾布稱,Meta高管拒絕了他的團隊提出的通過"可能認識的人"算法停止向成年人推薦未成年人的方案,且公司對大規模封禁其團隊識別出的數百萬個涉嫌兒童剝削的賬户缺乏積極性。
斯通反駁了Meta未充分回應團隊調查結果的説法,表示這項工作促使公司開始避免向疑似施虐者推薦青少年,相關措施在數月內對數百萬個行為異常的賬户實施了限制。斯通稱,自2020年以來,Meta已取締32個涉及16萬個賬户的兒童剝削網絡。
Meta已建立內部工具"MACSA”(惡意兒童安全行為者)來更好地利用未加密數據,以彌補無法查看消息的缺陷。該系統會標記存在可疑互動的賬户,例如多次被年輕用户屏蔽的成年用户,或發佈過兒童剝削內容被刪帖的賬户。
在《華爾街日報》六月的一篇文章揭露Instagram算法如何關聯並推廣公開涉及未成年人性內容的賬户後,Meta加強了Macsa系統。該算法現已整合60種行為特徵指標。若用户觸發過多警示信號,Meta將限制其查找和聯繫兒童的功能,甚至可能封停賬户。
車輛駛過加州門洛帕克Meta總部入口處的標識。該公司是向美國國家失蹤與受虐兒童中心提供線索的最大來源,其中多數線索依賴於將被停止掃描的通訊內容。圖片來源:Kori Suzuki/華爾街日報現任及前任員工表示,Macsa系統雖具價值,但無法替代端到端加密將削弱的調查能力。
倡導網絡安全的非營利組織ConnectSafely首席執行官拉里·馬吉德指出,加密通訊雖可能增加調查難度,但能通過隔絕潛在性犯罪者獲取未成年人通訊的途徑來提升安全性。作為Meta安全諮詢委員會成員,其組織接受包括Meta在內的科技公司資助。
馬吉德補充道:“部分未成年人會通過通訊應用向可信賴對象分享位置信息、醫療狀況、心理健康問題、性取向等高度隱私內容。”
誘騙離家
去年,加州一名15歲女孩在成人禮派對前夕失蹤,她的朋友和小妹妹告訴警方,她一直在Instagram上與一個名叫“安吉爾”的男子聊天。
警方確認安吉爾是38歲的丹尼爾·納瓦羅,但他否認知道法庭文件中稱為A.T.的女孩的下落。通過搜查令獲得的他們之間的Instagram信息卻講述了另一個故事。法庭文件稱,納瓦羅數月來一直在向A.T.索取露骨圖像,並聲稱會讓她懷孕。
法庭文件稱,納瓦羅誘騙她離家,並將她帶到墨西哥。當局利用這些信息獲得了逮捕令,在他返回美國時將其抓獲,並從他在蒂華納的父親家中找回了A.T.。納瓦羅正等待審判,罪名是引誘和運輸未成年人意圖從事犯罪性活動。他拒不認罪。
Meta是國家失蹤與受虐兒童中心最大的線索來源,這些線索隨後可以轉交給執法部門。2022年,Meta向該中心報告了超過2600萬起兒童剝削事件。其中超過2000萬起依賴於公司檢測到的Instagram和Facebook信息內容,無需用户協助,這項工作在加密信息下將無法進行。
“除非未成年人實際上向平台報告,否則沒有人知道這種情況正在發生,”該中心的高級副總裁約翰·謝漢説。
Meta表示,已成功提高年輕用户標記不當信息的頻率,這將使公司能夠在加密下裁決更多虐待報告。
Instagram上的敲詐勒索
去年某天早晨,詹妮弗·布塔醒來時,發現她17歲的兒子喬丹·德梅自殺了。
根據法庭文件,前一天晚上,尼日利亞的詐騙者使用一個被黑的賬户,假裝是一個在Instagram上與他調情的女孩,引誘他發送裸照。據稱,這些詐騙者隨後威脅説,除非他支付1000美元,否則就把照片發給他認識的所有人。德梅沒有足夠的錢滿足他們的要求,並表示如果他們真的實施威脅,他就會自殺。
“好啊。快點做吧。”詐騙者回複道。
2021年聖誕節,詹妮弗·布塔和她的兒子喬丹·德梅。照片:詹妮弗·布塔德梅在與詐騙者首次接觸後不到六小時就自殺了。在他自殺前,他從手機上刪除了對話。警方從Instagram上恢復了這些信息,以及據稱詐騙者與100多名其他受害者的通信,這些材料為起訴並將兩名男子引渡到美國鋪平了道路。他們已表示不認罪,正在等待審判。
“如果警方無法獲取這些信息,我可能還在想喬丹為什麼自殺,”她説。“在Instagram上加密信息將為那些能接觸到我們孩子的人創造一個温牀,讓他們認為‘我永遠不會被抓到’。”
寫信給傑夫·霍維茨,郵箱:[email protected],凱瑟琳·布倫特,郵箱:[email protected]
出現在2023年12月23日的印刷版中,標題為《Meta內部人士對其加密推進發出警告》。